Ai / ml framework for communication

Abstract

Example embodiments of the present disclosure relate to an artificial intelligence / machine learning (AI / ML) framework for communication. An example method includes performing at least one operation based on an AI / ML functional framework, which may comprise at least one of a first function, a second function or a third function. The first function is configured to determine first one or more devices for participating in a training process. The second function is configured to determine second one or more devices for performing model monitoring or functionality monitoring. The third function is configured to determine third one or more devices for performing model inference. The AI / ML functional framework may further comprise at least one of a fourth function, a fifth function, a sixth function, a seventh function or an eighth function. In this way, AI / ML model can be provided by the AI / ML functional framework as a service with high accuracy and convenience.

Description

AI / ML FRAMEWORK FOR COMMUNICATIONFIELD

[0001] Example embodiments of the present disclosure generally relate to the field of communications, and in particular, to an artificial intelligence  / machine learning (AI / ML) functional framework for communication.BACKGROUND

[0002] Artificial intelligence (AI) , and in particular deep machine learning, is a wide-ranging branch of computer science concerned with building smart machines capable of performing tasks that typically require human intelligence. It is expected that the introduction of AI will create a paradigm shift in virtually every sector of the tech industry and AI is expected to play a role in advancement of network technologies. For example, existing communication techniques, which rely on classical analytical modeling of channels, have enabled wireless communications to take place at close to the theoretical Shannon limit. To further maximize efficient use of the signal space, existing techniques may be unsatisfactory. AI is expected to help address this challenge. Other aspects of wireless communication may benefit from the use of AI, particularly in future generations of wireless technologies, such as technologies in advanced 5G and future 6G systems, and beyond.

[0003] Considering the massive devices in the network which have data and computing capability, network is expected to provide AI service (s) .SUMMARY

[0004] Some embodiments of the disclosure propose designs on an AI framework for communication, for example, an AI framework with AI as a service. In general, example embodiments of the present disclosure provide a solution for providing an AI / ML functional framework, through which an AI / ML model is provided as a service.

[0005] In a first aspect, there is provided a method. The method comprises performing at least one operation based on an artificial intelligence / machine learning (AI / ML) functional framework, wherein the AI / ML functional framework comprises at least one of the following: a first function configured to determine first one or more devices for participating in a training process of an AI / ML model; a second function configured to determine second one or more devices for performing model monitoring or functionality monitoring of the AI / ML model; or a third function configured to determine third one or more devices for performing model inference based on the AI / ML model; wherein the AI / ML functional framework further comprises at least one of the following: a fourth function configured to perform model training of the AI / ML model based on the training process; a fifth function configured to perform model management of the AI / ML model; a sixth function configured to provide at least one inference result of the model inference; a seventh function configured to provide first input data to the first function, provide second input data to the second function, and provide third input data to the third function; or an eighth function configured to store the AI / ML model. In this way, an AI / ML functional framework with various functionalities can be provided, through which an AI / ML model can be provided as a service to a network node to facilitate functionality of the network node. Here, the network node may be a terminal (like a user equipment (UE) ) , a base station (BS) device, a core network (CN) device or a third party. Here, when referring to “aspecific function is configured to do something” , it may mean that the specific function is configured, for example, by a base station device or a core network device, to do something. Alternatively or in addition, it may mean that the specific function is pre-defined, for example, in a specification (for example, in a 3GPP specification) , to do something.

[0006] In some example embodiments, the first function is further configured to at least one of the following: activate at least one device among the first one or more devices to participate in the training process; deactivate at least one device among the first one or more devices to stop participating in the training process; or provide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device: at least one training task, at least one training functionality, or model delivery. In this way, the first function may obtain more accurate AI / ML model and be embedded with more functionalities.

[0007] In some example embodiments, the second function is further configured to at least one of the following: activate at least one device among the second one or more devices to perform the model monitoring or functionality monitoring; deactivate at least one device among the second one or more devices to stop performing the model monitoring or functionality monitoring; or provide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device: at least one monitoring task, at least one monitoring functionality, or model delivery. In this way, the second function can monitor the AI / ML model more flexibly and can intervene in time once the performance of the AI / ML model degrades to an undesired level.

[0008] In some example embodiments, the third function is further configured to at least one of the following: activate at least one device among the third one or more devices to perform the model inference; deactivate at least one device among the third one or more devices to stop performing the model inference; or provide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device: at least one inference task, at least one inference functionality, or model delivery. In this way, the third function can obtain more accurate inference results.

[0009] In some example embodiments, the fourth function is further configured to perform at least one of the following: validation of the AI / ML model; testing of the AI / ML model; or data preparation associated with the AI / ML model. In this way, the fourth function can improve reliability of the AI / ML model.

[0010] In some example embodiments, the fifth function is further configured to at least one of the following: perform control of the model training of the AI / ML model; perform control of the model inference of the AI / ML model; or monitor output of the AI / ML model. In this way, the fifth function can control operations related to the AI / ML model more flexibly and more reliably.

[0011] In some example embodiments, the sixth function is further configured to at least one of the following: perform an action based on the at least one inference result; or perform data preparation based on the third input data obtained from the seventh function. In this way, with the at least one inference result the sixth function can improve the accuracy and reliability of the AI / ML model.

[0012] In some example embodiments, the seventh function is further configured to at least one of the following: provide the first input data to the fourth function, provide the second input data to the fifth function, or provide the third input data to the sixth function. In this way, with the seventh function providing the first, second and third input data suitable for the fourth, fifth, and sixth functions, respectively, the AI / ML functional framework can provide an AI / ML model which can deliver accurate AI service (s) .

[0013] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the first function: receiving the first input data from the seventh function, receiving the AI / ML model from the fourth function, providing the AI / ML model to the first one or more devices, obtaining one or more local models from the first one or more devices, or transmitting the one or more local models to the fourth function, wherein the one or more local models are generated by training the AI / ML model based on local data at the first one or more devices. In this way, the first function can obtain one or more local models from the first one or more devices. In other words, the first function can help train the AI / ML model at the first one or more devices, thereby reducing model training burden at the fourth function. At the  same time, with the help of the first function, the time consumed to obtain the trained AI / ML model at the fourth function can be considerably decreased.

[0014] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the second function: receiving the second input data from the seventh function, receiving the AI / ML model or a sub-model of the AI / ML model from the fifth function, providing the AI / ML model or the sub-model to the second one or more devices, obtaining one or more monitoring results from the second one or more devices, or transmitting the one or more monitoring results to the fifth function. In this way, the second function can obtain one or more monitoring results from the second one or more devices. In other words, the second function can help monitor the AI / ML model at the second one or more devices, thereby reducing model monitoring burden at the fifth function. At the same time, with the help of the second function, the time consumed to obtain the monitoring results at the fifth function can be considerably decreased.

[0015] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the third function: receiving the third input data from the seventh function, receiving the AI / ML model or a sub-model of the AI / ML model from the sixth function, providing the AI / ML model or the sub-model to the third one or more devices, obtaining one or more inference results from the third one or more devices, or transmitting the one or more inference results to the sixth function. In this way, the third function can obtain one or more inference results from the third one or more devices. In other words, the third function can help inference at the third one or more devices, thereby reducing model inference burden at the sixth function. At the same time, with the help of the third function, the time consumed to obtain the inference results at the sixth function can be considerably decreased.

[0016] In some example embodiments, the at least one operation comprises the following operations performed by the fourth function: transmitting the AI / ML model to the first function; receiving one or more local models from the first function, wherein the one or more local models are generated by training the AI / ML model based on local data at the first one or more devices; aggregating the one or more local models to generate a trained or updated AI / ML model; and transmitting the trained or updated AI / ML model to the eighth function. In this way, the fourth function can obtain the trained or updated AI / ML model, in such a manner that the AI / ML model is trained at the first one or more devices using local data at the first one or more devices. Therefore, the trained or updated AI / ML model may be more accurate than otherwise the AI / ML model is not trained at the first one or more devices using local data, and the model training burden at the fourth function can be reduced. At the same time, with the help of the first function, the time consumed to obtain the trained or updated AI / ML model at the fourth function can be considerably decreased.

[0017] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the fourth function: receiving the first input data from the seventh function; or receiving, from the fifth function, a performance level of the AI / ML model and a request to retrain the AI / ML model. In this way, the fourth function can retrain the AI / ML model in response to that the performance level of the AI / ML model is below a threshold. Therefore, the AI / ML model can be retrained to keep the performance level above the threshold.

[0018] In some example embodiments, the at least one operation comprises the following operations performed by the fifth function: receiving the second input data from the seventh function; receiving the at least one inference result from the sixth function; transmitting the AI / ML model or a sub-model of the AI / ML model to the second function; and receiving one or more monitoring results from the second function, wherein the one or more monitoring results are provided by the second one or more devices. In this way, the fifth function can obtain one or more monitoring results from the second function. In other words, with the help from the second function, model monitoring burden at the fifth function can be reduced. At the same time, the time consumed to obtain the monitoring results at the fifth function can be considerably decreased.

[0019] In some example embodiments, the at least one operation further comprises the following operations performed by the fifth function: determining that a performance level of the AI / ML model is below a threshold level based on at least one of (i) the at least one inference result received from the sixth function or (ii) the one or more monitoring results received  from the second function; and transmitting, to the fourth function, the performance level of the AI / ML model and a request to retrain the AI / ML model. In this way, the fifth function can retrain the AI / ML model in response to that the performance level of the AI / ML model is below a threshold based on information from the sixth or second function. Therefore, the AI / ML model can be retrained to keep the performance level above the threshold.

[0020] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the fifth function: transmitting, to the sixth function, a switching indication to switch from the AI / ML model to another AI / ML model; transmitting, to the sixth function, a fallback indication to apply a non-AI / ML model instead of the AI / ML model; transmitting, to the sixth function, an activating indication to activate one or more of a plurality of candidate AI / ML models; or transmitting, to the sixth function, a deactivating indication to deactivate one or more of the plurality of candidate AI / ML models. In this way, the fifth function can determine an AI / ML model to be used, for example, when the performance level meets a certain condition, thus the AI / ML functional framework can enable much more flexible AI functionalities as a service.

[0021] In some example embodiments, the at least one operation comprises the following operation performed by the fifth function: transmitting, to the eighth function, a request that the eighth function transmits the AI / ML model to the sixth function. In this way, the fifth function can indicate the eighth function to provide the latest (or newest) AI / ML model (for example, an updated or retrained AI / ML model) to the sixth function for future inference tasks, improving the accuracy and reliability of the inference tasks.

[0022] In some example embodiments, the at least one operation comprises the following operations performed by the sixth function: transmitting the AI / ML model or a sub-model of the AI / ML model to the third function; receiving one or more inference results from the third function, wherein the one or more inference results are provided by the third one or more devices; combining the one or more inference results to obtain the at least one inference result; and transmitting the at least one inference result to the fifth function. In this way, the sixth function can obtain one or more inference results from the third function. In other words, with the help of the third function, model inference burden at the sixth function can be reduced. At the same time, the time consumed to obtain the inference results at the sixth function can be considerably decreased.

[0023] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the sixth function: receiving, from the fifth function, a switching indication to switch from the AI / ML model to another AI / ML model; receiving, from the fifth function, a fallback indication to apply a non-AI / ML model instead of the AI / ML model; receiving, from the fifth function, an activating indication to activate one or more of a plurality of candidate AI / ML models; or receiving, from the fifth function, a deactivating indication to deactivate one or more of the plurality of candidate AI / ML models. In this way, the sixth function can provide an AI / ML model to be used which is determined by the fifth function, for example, when the performance level meets a certain condition, thus the AI / ML functional framework can enable much more flexible AI functionalities as a service.

[0024] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the sixth function: receiving the third input data from the seventh function; or receiving the AI / ML model from the eighth function. In this way, the sixth function can obtain the latest (or newest) AI / ML model (for example, an updated or retrained AI / ML model) from the eighth function for future inference tasks, improving the accuracy and reliability of the inference tasks.

[0025] In some example embodiments, the at least one operation comprises at least one of the following operations performed by the eighth function: receiving a trained or updated AI / ML model from the fourth function, wherein the trained or updated AI / ML model is generated by aggregating one or more local models trained at the first one or more devices, receiving, from the fifth function, a request that the eighth function transmits the AI / ML model to the sixth function, or transmitting the AI / ML model to the sixth function. In this way, the eighth function can obtain, store and provide the latest  (or newest) AI / ML model (for example, an updated or retrained AI / ML model) for future inference tasks, improving the accuracy and reliability of the inference tasks.

[0026] In some example embodiments, the AI / ML model is a first AI / ML model, and the at least one operation comprises the following operations performed by the fourth function: receiving a second AI / ML model from the fifth function; performing fine-tuning of the second AI / ML model; and transmitting the fine-tuned second AI / ML model to the eighth function. In this way, the fourth function can fine-tune the second AI / ML model, whereby a more accurate AI / ML model can thus be obtained.

[0027] In some example embodiments, the AI / ML model is a first AI / ML model, and the at least one operation comprises the following operation performed by the fifth function: transmitting a second AI / ML model to the fourth function. In this way, the fourth function can fine-tune the second AI / ML model, whereby a more accurate AI / ML model can thus be obtained.

[0028] In some example embodiments, the AI / ML model is a first AI / ML model, and the at least one operation comprises the following operation performed by the eighth function: receiving a fine-tuned second AI / ML model from the fourth function, wherein the fine-tuned second AI / ML model is generated by fine-tuning a second AI / ML model. In this way, the eighth function can obtain the fine-tuned second AI / ML model.

[0029] In some example embodiments, at least one of the following: the first one or more devices transmit training data among the first one or more devices via sidelink transmission; the second one or more devices transmit monitoring data among the second one or more devices via sidelink transmission; or the third one or more devices transmit inference data among the third one or more devices via sidelink transmission. In this way, the first, second or third one or more devices can participate in model training, monitoring or inference autonomously via sidelink transmission, which can decrease communication overhead significantly at the base station or core network as compared with a case where all model training, monitoring and inference are performed at the base station or the core network.

[0030] In some example embodiments, the first one or more devices include at least one basic device and at least one aggregation device, and wherein: a basic device transmits a local model of the basic device to a first aggregation device; the first aggregation device receives one or more local models from one or more basic devices; the first aggregation device receives one or more common models from one or more other aggregation devices, wherein a common model is generated by aggregating a plurality of local models; the first aggregation device aggregates the one or more local models and the one or more common models to generate an updated common model; and the first aggregation device transmits the updated common model to a second aggregation device. In this way, local models can be aggregated to generate an updated common model, thus communication overhead can be decreased significantly at the base station or core network as compared with a case where all model training is performed at the base station or the core network.

[0031] In some example embodiments, the second one or more devices include at least one basic device and at least one aggregation device, and wherein: a basic device transmits a monitoring result of the basic device to a first aggregation device; the first aggregation device receives one or more monitoring results from one or more basic devices; the first aggregation device aggregates the one or more monitoring results to obtain an aggregated monitoring result; and the first aggregation device transmits the aggregated monitoring result to a second aggregation device. In this way, one or more (local) monitoring results can be aggregated to obtain an aggregated monitoring result, thus communication overhead can be decreased significantly at the base station or core network as compared with a case where all model monitoring is performed at the base station or the core network.

[0032] In some example embodiments, the third one or more devices include at least one basic device and at least one aggregation device, and wherein: a basic device transmits an inference result of the basic device to a first aggregation device; the first aggregation device receives one or more inference results from one or more basic devices; the first aggregation device aggregates the one or more inference results to obtain an aggregated inference result; and the first aggregation device  transmits the aggregated inference result to a second aggregation device. In this way, one or more (local) inference results can be aggregated to obtain an aggregated inference result, thus communication overhead can be decreased significantly at the base station or core network as compared with a case where all model inference is performed at the base station or the core network.

[0033] In some example embodiments, the seventh function comprises: a first sub-function configured to provide a first portion of the first input data, a first portion of the second input data, and a first portion of the third input data, wherein the first portions of the first input data, the second input data, and the third input data include ground truth data; a second sub-function configured to provide a second portion of the first input data, a second portion of the second input data, and a second portion of the third input data, wherein the second portions of the first input data, the second input data, and the third input data include data other than ground truth data; and a third sub-function configured to control a first type of devices for collecting data and a second type of devices for collecting data, wherein the data collected by the first type of devices include ground truth data and the data collected by the second type of devices include data other than ground truth data. In this way, data collection can be managed in an organized manner. At the same time, a device can be utilized in data collection based on its type.

[0034] In some example embodiments, at least one of the first function, the second function, the third function, the fourth function, the fifth function, the sixth function, the seventh function, or the eighth function is implemented in one of the following: a terminal device, an access network device, a core network device, or a third party device. In this way, the terminal device, access network device, core network device, and third party device can be utilized in the AI / ML functional framework to provide the AI / ML model as a service with high accuracy and convenience.

[0035] In this way, according to the first aspect and its example embodiments, an AI / ML functional framework can be provided to provide the AI / ML model as a service with high accuracy and convenience.

[0036] In a second aspect, there is provided an apparatus. The apparatus comprises: a transceiver; and a processor communicatively coupled with the transceiver, wherein the processor is configured to perform at least one operation based on an artificial intelligence / machine learning (AI / ML) functional framework, wherein the AI / ML functional framework comprises at least one of the following: a first function configured to determine first one or more devices for participating in a training process of an AI / ML model; a second function configured to determine second one or more devices for performing model monitoring or functionality monitoring of the AI / ML model; or a third function configured to determine third one or more devices for performing model inference based on the AI / ML model; wherein the AI / ML functional framework further comprises at least one of the following: a fourth function configured to perform model training of the AI / ML model based on the training process; a fifth function configured to perform model management of the AI / ML model; a sixth function configured to provide at least one inference result of the model inference; a seventh function configured to provide first input data to the first function, provide second input data to the second function, and provide third input data to the third function; or an eighth function configured to store the AI / ML model. In this way, an AI / ML functional framework can be provided to provide the AI / ML model as a service with high accuracy and convenience.

[0037] In a third aspect, there is provided a non-transitory computer-readable storage medium comprising computer program stored thereon. The computer program, when executed on at least one processor, cause the at least one processor to perform the method of the first aspect. In this way, an AI / ML functional framework can be provided to provide the AI / ML model as a service with high accuracy and convenience.

[0038] In a fourth aspect, there is provided a chip comprising at least one processing circuit configured to perform the method of the first aspect. In this way, an AI / ML functional framework can be provided to provide the AI / ML model as a service with high accuracy and convenience.

[0039] In a fifth aspect, there is provided a computer program product tangibly stored on a computer-readable medium and comprising computer-executable instructions which, when executed, cause an apparatus to perform a method of the first  aspect. In this way, an AI / ML functional framework can be provided to provide the AI / ML model as a service with high accuracy and convenience.

[0040] It is to be understood that the summary section is not intended to identify key or essential features of embodiments of the present disclosure, nor is it intended to be used to limit the scope of the present disclosure. Other features of the present disclosure will become easily comprehensible through the following description.BRIEF DESCRIPTION OF THE DRAWINGS

[0041] Some example embodiments will now be described with reference to the accompanying drawings, in which:

[0042] FIG. 1A illustrates an example of a network environment in which some example embodiments of the present disclosure may be implemented;

[0043] FIG. 1B illustrates an example communication system in which some example embodiments of the present disclosure may be implemented;

[0044] FIG. 1C illustrates an example of an electric device and a base station in accordance with some example embodiments of the present disclosure;

[0045] FIG. 1D illustrates units or modules in a device in accordance with some example embodiments of the present disclosure;

[0046] FIG. 1E illustrates an example sensing system in accordance with some example embodiments of the present disclosure;

[0047] FIG. 1F illustrates an example apparatus that may implement the methods and teachings in accordance with some example embodiments of the present disclosure;

[0048] FIG. 1G illustrates a schematic diagram of an example model in accordance with some example embodiments of the present disclosure;

[0049] FIG. 2 illustrates a flowchart of an example communication process in accordance with some example embodiments of the present disclosure;

[0050] FIG. 3 illustrates a schematic AI / ML functional framework in accordance with some example embodiments of the present disclosure;

[0051] FIG. 4 illustrates a schematic diagram of an example AI / ML functional framework in accordance with some embodiments of the present disclosure;

[0052] FIG. 5 illustrates a schematic diagram of another example AI / ML functional framework in accordance with some embodiments of the present disclosure;

[0053] FIG. 6 illustrates a schematic diagram of a third example AI / ML functional framework in accordance with some embodiments of the present disclosure;

[0054] FIG. 7 illustrates a schematic diagram of a fourth example AI / ML functional framework in accordance with some embodiments of the present disclosure;

[0055] FIG. 8 illustrates a schematic diagram of a fifth example AI / ML functional framework in accordance with some embodiments of the present disclosure; and

[0056] FIG. 9 illustrates a block diagram of an electronic device that may be used for implementing devices and methods in accordance with some embodiments of the present disclosure.

[0057] FIG. 10 illustrates a schematic diagram of a structure of an apparatus in accordance with some embodiments of the present disclosure.

[0058] Throughout the drawings, the same or similar reference numerals represent the same or similar elements.DETAILED DESCRIPTION

[0059] Principles of the present disclosure will now be described with reference to some example embodiments. It is to be understood that these embodiments are described for the purpose of illustration and help those skilled in the art to understand and implement the present disclosure, without suggesting any limitation as to the scope of the disclosure. The disclosure described herein can be implemented in various manners other than the ones described below.

[0060] In the following description and claims, unless defined otherwise, all technical and scientific terms used herein have the same meaning as commonly understood by one of ordinary skills in the art to which this disclosure belongs.

[0061] References in the present disclosure to “one embodiment, ” “an embodiment, ” “an example embodiment, ” and the like indicate that the embodiment described may include a particular feature, structure, or characteristic, but it is not necessary that every embodiment includes the particular feature, structure, or characteristic. Moreover, such phrases are not necessarily referring to the same embodiment. Further, when a particular feature, structure, or characteristic is described in connection with an embodiment, it is submitted that it is within the knowledge of one skilled in the art to affect such feature, structure, or characteristic in connection with other embodiments whether or not explicitly described.

[0062] It shall be understood that although the terms “first” and “second” etc. may be used herein to describe various elements, these elements should not be limited by these terms. These terms are used to distinguish one element from another. For example, a first element could be termed a second element, and similarly, a second element could be termed a first element, without departing from the scope of example embodiments. As used herein, the term “and / or” includes any and all combinations of one or more of the listed terms.

[0063] The terminology used herein is for the purpose of describing particular embodiments and is not intended to be limiting of example embodiments. As used herein, the singular forms “a” , “an” and “the” are intended to include the plural forms as well, unless the context clearly indicates otherwise. It will be further understood that the terms “comprises” , “comprising” , “has” , “having” , “includes” and / or “including” , when used herein, specify the presence of stated features, elements, and / or components etc., but do not preclude the presence or addition of one or more other features, elements, components and / or combinations thereof.

[0064] As used herein, the term “communication network” refers to a network following any suitable communication standards, such as Long Term Evolution (LTE) , LTE-Advanced (LTE-A) , Wideband Code Division Multiple Access (WCDMA) , High-Speed Packet Access (HSPA) , Narrow Band Internet of Things (NB-IoT) , Wireless Fidelity (WiFi) and so on. Furthermore, the communications between a terminal device and a network device in the communication network may be performed according to any suitable generation communication protocols, including, but not limited to, the fourth generation (4G) , 4.5G, the future fifth generation (5G) , IEEE 802.11 communication protocols, and / or any other protocols either currently known or to be developed in the future. Embodiments of the present disclosure may be applied in various communication systems. Given the rapid development in communications, there will of course also be future type communication technologies and systems with which the present disclosure may be embodied. It should not be seen as limiting the scope of the present disclosure to only the aforementioned system.

[0065] As used herein, the term “network device” refers to a node in a communication network via which a terminal device accesses the network and receives services therefrom. The network device may refer to a base station (BS) or an access point (AP) , for example, a node B (NodeB or NB) , an evolved NodeB (eNodeB or eNB) , a NR NB (also referred to as a gNB) , a Remote Radio Unit (RRU) , a radio header (RH) , a remote radio head (RRH) , a WiFi device, a relay, a low power  node such as a femto, a pico, and so forth, depending on the applied terminology and technology. In the following description, the terms “network device” , “AP device” , “AP” and “access point” may be used interchangeably.

[0066] The term “terminal device” refers to any end device that may be capable of wireless communication. By way of example rather than limitation, a terminal device may also be referred to as a communication device, user equipment (UE) , a Subscriber Station (SS) , a Portable Subscriber Station, a Mobile Station (MS) , a station (STA) or station device, or an Access Terminal (AT) . The terminal device may include, but not limited to, a mobile phone, a cellular phone, a smart phone, voice over IP (VoIP) phones, wireless local loop phones, a tablet, a wearable terminal device, a personal digital assistant (PDA) , portable computers, desktop computer, image capture terminal devices such as digital cameras, gaming terminal devices, music storage and playback appliances, vehicle-mounted wireless terminal devices, wireless endpoints, mobile stations, laptop-embedded equipment (LEE) , laptop-mounted equipment (LME) , USB dongles, smart devices, wireless customer-premises equipment (CPE) , an Internet of Things (loT) device, a watch or other wearable, a VR (virtual reality) device, an XR (eXtended reality) device, a head-mounted display (HMD) , a vehicle, a drone, a medical device and applications (for example, remote surgery) , an industrial device and applications (for example, a robot and / or other wireless devices operating in an industrial and / or an automated processing chain contexts) , a consumer electronics device, a device operating on commercial and / or industrial wireless networks, and the like. In the following description, the terms “station” , “station device” , “STA” , “terminal device” , “communication device” , “terminal” , “user equipment” and “UE” may be used interchangeably.

[0067] Referring to FIG. 1A, as an illustrative example without limitation, a simplified schematic illustration of a communication system 100A is provided. The communication system 100A comprises a radio access network 120. The radio access network 120 may be a next generation (e.g. sixth generation (6G) or later) radio access network, or a legacy (e.g. 5G, 4G, 3G or 2G) radio access network. One or more communication user equipment (UE, also referred to as electric device (ED) ) 110a -110j (generically referred to as 110) may be interconnected to one another or connected to one or more network nodes (170a, 170b, generically referred to as 170) in the radio access network 120. A core network 130 may be a part of the communication system 100A and may be dependent or independent of the radio access technology used in the communication system 100A. Also the communication system 100A comprises a public switched telephone network (PSTN) 180, the internet 185, and other networks 160. The other networks 160 may include a multi-access edge computing (MEC) platform.

[0068] FIG. 1B illustrates an example communication system 100B. In general, the communication system 100B enables multiple wireless or wired elements to communicate data and other content. The purpose of the communication system 100B may be to provide content, such as voice, data, video, and / or text, via broadcast, multicast and unicast, etc. The communication system 100B may operate by sharing resources, such as carrier spectrum bandwidth, between its constituent elements. The communication system 100B may include a terrestrial communication system and / or a non-terrestrial communication system. The communication system 100B may provide a wide range of communication services and applications (such as earth monitoring, remote sensing, passive sensing and positioning, navigation and tracking, autonomous delivery and mobility, etc. ) . The communication system 100B may provide a high degree of availability and robustness through a joint operation of the terrestrial communication system and the non-terrestrial communication system. For example, integrating a non-terrestrial communication system (or components thereof) into a terrestrial communication system can result in what may be considered a heterogeneous network comprising multiple layers. Compared to conventional communication networks, the heterogeneous network may achieve better overall performance through efficient multi-link joint operation, more flexible functionality sharing, and faster physical layer link switching between terrestrial networks and non-terrestrial networks.

[0069] The terrestrial communication system and the non-terrestrial communication system could be considered sub-systems of the communication system 100B. In the example shown, the communication system 100B includes electronic devices (ED) 110a -110d (generically referred to as ED 110) , radio access networks (RANs) 120a -120b, non-terrestrial  communication network 120c, a core network 130, a public switched telephone network (PSTN) 180, the internet 185, and other networks 160. The RANs 120a-120b include respective base stations (BSs) 170a-170b, which may be generically referred to as terrestrial transmit and receive points (T-TRPs) 170a-170b. The non-terrestrial communication network 120c includes an access node, which may be generically referred to as a non-terrestrial transmit and receive point (NT-TRP) 172. As described above, the other networks 160 may include a multi-access edge computing (MEC) platform.

[0070] Any ED 110 may be alternatively or additionally configured to interface, access, or communicate with any other T-TRP 170a-170b and NT-TRP 172, the internet 185, the core network 130, the PSTN 180, the other networks 160, or any combination of the preceding. In some examples, ED 110a may communicate an uplink and / or downlink transmission over an interface 190a with T-TRP 170a. In some examples, the EDs 110a, 110b and 110d may also communicate directly with one another via one or more sidelink air interfaces 190b. In some examples, ED 110d may communicate an uplink and / or downlink transmission over an interface 190c with NT-TRP 172.

[0071] The air interfaces 190a and 190b may use similar communication technology, such as any suitable radio access technology. For example, the communication system 100B may implement one or more channel access methods, such as code division multiple access (CDMA) , time division multiple access (TDMA) , frequency division multiple access (FDMA) , orthogonal FDMA (OFDMA) , or single-carrier FDMA (SC-FDMA) in the air interfaces 190a and 190b. The air interfaces 190a and 190b may utilize other higher dimension signal spaces, which may involve a combination of orthogonal and / or non-orthogonal dimensions.

[0072] The air interface 190c can enable communication between the ED 110d and one or multiple NT-TRPs 172 via a wireless link or simply a link. For some examples, the link is a dedicated connection for unicast transmission, a connection for broadcast transmission, or a connection between a group of EDs and one or multiple NT-TRPs for multicast transmission.

[0073] The RANs 120a and 120b are in communication with the core network 130 to provide the EDs 110a, 110b, and 110c with various services such as voice, data, and other services. The RANs 120a and 120b and / or the core network 130 may be in direct or indirect communication with one or more other RANs (not shown) , which may or may not be directly served by core network 130, and may or may not employ the same radio access technology as RAN 120a, RAN 120b or both. The core network 130 may also serve as a gateway access between (i) the RANs 120a and 120b or EDs 110a, 110b, and 110c or both, and (ii) other networks (such as the PSTN 180, the internet 185, and the other networks 160) . In addition, some or all of the EDs 110a, 110b, and 110c may include functionality for communicating with different wireless networks over different wireless links using different wireless technologies and / or protocols. Instead of wireless communication (or in addition thereto) , the EDs 110a, 110b, and 110c may communicate via wired communication channels to a service provider or switch (not shown) , and to the internet 185. PSTN 180 may include circuit switched telephone networks for providing plain old telephone service (POTS) . Internet 185 may include a network of computers and subnets (intranets) or both, and incorporate protocols, such as Internet Protocol (IP) , Transmission Control Protocol (TCP) , User Datagram Protocol (UDP) . EDs 110a, 110b, and 110c may be multimode devices capable of operation according to multiple radio access technologies, and incorporate multiple transceivers necessary to support such.

[0074] FIG. 1C illustrates another example of an ED 110 and a base station 170a, 170b and / or 170c. The ED 110 is used to connect persons, objects, machines, etc. The ED 110 may be widely used in various scenarios, for example, cellular communications, device-to-device (D2D) , vehicle to everything (V2X) , peer-to-peer (P2P) , machine-to-machine (M2M) , machine-type communications (MTC) , internet of things (IOT) , virtual reality (VR) , augmented reality (AR) , industrial control, self-driving, remote medical, smart grid, smart furniture, smart office, smart wearable, smart transportation, smart city, drones, robots, remote sensing, passive sensing, positioning, navigation and tracking, autonomous delivery and mobility, etc.

[0075] Each ED 110 represents any suitable end user device for wireless operation and may include such devices (or may be referred to) as a user equipment / device (UE) , a wireless transmit / receive unit (WTRU) , a mobile station, a fixed or mobile  subscriber unit, a cellular telephone, a station (STA) , a machine type communication (MTC) device, a personal digital assistant (PDA) , a smartphone, a laptop, a computer, a tablet, a wireless sensor, a consumer electronics device, a smart book, a vehicle, a car, a truck, a bus, a train, or an IoT device, an industrial device, or apparatus (e.g. communication module, modem, or chip) in the forgoing devices, among other possibilities. Future generation EDs 110 may be referred to using other terms. The base station 170a and 170b is a T-TRP and will hereafter be referred to as T-TRP 170. Also shown in FIG. 3, a NT-TRP will hereafter be referred to as NT-TRP 172. Each ED 110 connected to T-TRP 170 and / or NT-TRP 172 can be dynamically or semi-statically turned-on (i.e., established, activated, or enabled) , turned-off (i.e., released, deactivated, or disabled) and / or configured in response to one of more of: connection availability and connection necessity.

[0076] The ED 110 includes a transmitter 201 and a receiver 203 coupled to one or more antennas 204. Only one antenna 204 is illustrated. One, some, or all of the antennas may alternatively be panels. The transmitter 201 and the receiver 203 may be integrated, e.g. as a transceiver. The transceiver is configured to modulate data or other content for transmission by at least one antenna 204 or network interface controller (NIC) . The transceiver is also configured to demodulate data or other content received by the at least one antenna 204. Each transceiver includes any suitable structure for generating signals for wireless or wired transmission and / or processing signals received wirelessly or by wire. Each antenna 204 includes any suitable structure for transmitting and / or receiving wireless or wired signals.

[0077] The ED 110 includes at least one memory 208. The memory 208 stores instructions and data used, generated, or collected by the ED 110. For example, the memory 208 could store software instructions or modules configured to implement some or all of the functionality and / or embodiments described herein and that are executed by the processing unit (s) 210. Each memory 208 includes any suitable volatile and / or non-volatile storage and retrieval device (s) . Any suitable type of memory may be used, such as random access memory (RAM) , read only memory (ROM) , hard disk, optical disc, subscriber identity module (SIM) card, memory stick, secure digital (SD) memory card, on-processor cache, and the like.

[0078] The ED 110 may further include one or more input / output devices (not shown) or interfaces (such as a wired interface to the internet 185 in FIG. 1A) . The input / output devices permit interaction with a user or other devices in the network. Each input / output device includes any suitable structure for providing information to or receiving information from a user, such as a speaker, microphone, keypad, keyboard, display, or touch screen, including network interface communications.

[0079] The ED 110 further includes a processor 210 for performing operations including those related to preparing a transmission for uplink transmission to the NT-TRP 172 and / or T-TRP 170, those related to processing downlink transmissions received from the NT-TRP 172 and / or T-TRP 170, and those related to processing sidelink transmission to and from another ED 110. Processing operations related to preparing a transmission for uplink transmission may include operations such as encoding, modulating, transmit beamforming, and generating symbols for transmission. Processing operations related to processing downlink transmissions may include operations such as receive beamforming, demodulating and decoding received symbols. Depending upon the embodiment, a downlink transmission may be received by the receiver 203, possibly using receive beamforming, and the processor 210 may extract signaling from the downlink transmission (e.g. by detecting and / or decoding the signaling) . An example of signaling may be a reference signal transmitted by NT-TRP 172 and / or T-TRP 170. In some embodiments, the processor 276 implements the transmit beamforming and / or receive beamforming based on the indication of beam direction, e.g. beam angle information (BAI) , received from T-TRP 170. In some embodiments, the processor 210 may perform operations relating to network access (e.g. initial access) and / or downlink synchronization, such as operations relating to detecting a synchronization sequence, decoding and obtaining the system information, etc. In some embodiments, the processor 210 may perform channel estimation, e.g. using a reference signal received from the NT-TRP 172 and / or T-TRP 170.

[0080] Although not illustrated, the processor 210 may form part of the transmitter 201 and / or receiver 203. Although not illustrated, the memory 208 may form part of the processor 210.

[0081] The processor 210, and the processing components of the transmitter 201 and receiver 203 may each be implemented by the same or different one or more processors that are configured to execute instructions stored in a memory (e.g. in memory 208) . Alternatively, some or all of the processor 210, and the processing components of the transmitter 201 and receiver 203 may be implemented using dedicated circuitry, such as a programmed field-programmable gate array (FPGA) , a graphical processing unit (GPU) , or an application-specific integrated circuit (ASIC) .

[0082] The T-TRP 170 may be known by other names in some implementations, such as a base station, a base transceiver station (BTS) , a radio base station, a network node, a network device, a device on the network side, a transmit / receive node, a Node B, an evolved NodeB (eNodeB or eNB) , a Home eNodeB, a next Generation NodeB (gNB) , a transmission point (TP) ) , a site controller, an access point (AP) , or a wireless router, a relay station, a remote radio head, a terrestrial node, a terrestrial network device, or a terrestrial base station, base band unit (BBU) , remote radio unit (RRU) , active antenna unit (AAU) , remote radio head (RRH) , central unit (CU) , distribute unit (DU) , positioning node, among other possibilities. The T-TRP 170 may be macro BSs, pico BSs, relay node, donor node, or the like, or combinations thereof. The T-TRP 170 may refer to the forging devices or apparatus (e.g. communication module, modem, or chip) in the forgoing devices.

[0083] In some embodiments, the parts of the T-TRP 170 may be distributed. For example, some of the modules of the T-TRP 170 may be located remote from the equipment housing the antennas of the T-TRP 170, and may be coupled to the equipment housing the antennas over a communication link (not shown) sometimes known as front haul, such as common public radio interface (CPRI) . Therefore, in some embodiments, the term T-TRP 170 may also refer to modules on the network side that perform processing operations, such as determining the location of the ED 110, resource allocation (scheduling) , message generation, and encoding / decoding, and that are not necessarily part of the equipment housing the antennas of the T-TRP 170. The modules may also be coupled to other T-TRPs. In some embodiments, the T-TRP 170 may actually be a plurality of T-TRPs that are operating together to serve the ED 110, e.g. through coordinated multipoint transmissions.

[0084] The T-TRP 170 includes at least one transmitter 252 and at least one receiver 254 coupled to one or more antennas 256. Only one antenna 256 is illustrated. One, some, or all of the antennas may alternatively be panels. The transmitter 252 and the receiver 254 may be integrated as a transceiver. The T-TRP 170 further includes a processor 260 for performing operations including those related to: preparing a transmission for downlink transmission to the ED 110, processing an uplink transmission received from the ED 110, preparing a transmission for backhaul transmission to NT-TRP 172, and processing a transmission received over backhaul from the NT-TRP 172. Processing operations related to preparing a transmission for downlink or backhaul transmission may include operations such as encoding, modulating, precoding (e.g. MIMO precoding) , transmit beamforming, and generating symbols for transmission. Processing operations related to processing received transmissions in the uplink or over backhaul may include operations such as receive beamforming, and demodulating and decoding received symbols. The processor 260 may also perform operations relating to network access (e.g. initial access) and / or downlink synchronization, such as generating the content of synchronization signal blocks (SSBs) , generating the system information, etc. In some embodiments, the processor 260 also generates the indication of beam direction, e.g. BAI, which may be scheduled for transmission by scheduler 253. The processor 260 performs other network-side processing operations described herein, such as determining the location of the ED 110, determining where to deploy NT-TRP 172, etc. In some embodiments, the processor 260 may generate signaling, e.g. to configure one or more parameters of the ED 110 and / or one or more parameters of the NT-TRP 172. Any signaling generated by the processor 260 is sent by the transmitter 252. Note that “signaling” , as used herein, may alternatively be called control signaling. Dynamic signaling may be transmitted in a control channel, e.g. a physical downlink control channel (PDCCH) , and static or semi-static higher layer signaling may be included in a packet transmitted in a data channel, e.g. in a physical downlink shared channel (PDSCH) .

[0085] A scheduler 253 may be coupled to the processor 260. The scheduler 253 may be included within or operated separately from the T-TRP 170, which may schedule uplink, downlink, and / or backhaul transmissions, including issuing  scheduling grants and / or configuring scheduling-free ( “configured grant” ) resources. The T-TRP 170 further includes a memory 258 for storing information and data. The memory 258 stores instructions and data used, generated, or collected by the T-TRP 170. For example, the memory 258 could store software instructions or modules configured to implement some or all of the functionality and / or embodiments described herein and that are executed by the processor 260.

[0086] Although not illustrated, the processor 260 may form part of the transmitter 252 and / or receiver 254. Also, although not illustrated, the processor 260 may implement the scheduler 253. Although not illustrated, the memory 258 may form part of the processor 260.

[0087] The processor 260, the scheduler 253, and the processing components of the transmitter 252 and receiver 254 may each be implemented by the same or different one or more processors that are configured to execute instructions stored in a memory, e.g. in memory 258. Alternatively, some or all of the processor 260, the scheduler 253, and the processing components of the transmitter 252 and receiver 254 may be implemented using dedicated circuitry, such as a FPGA, a GPU, or an ASIC.

[0088] Although the NT-TRP 172 is illustrated as a drone only as an example, the NT-TRP 172 may be implemented in any suitable non-terrestrial form. Also, the NT-TRP 172 may be known by other names in some implementations, such as a non-terrestrial node, a non-terrestrial network device, or a non-terrestrial base station. The NT-TRP 172 includes a transmitter 272 and a receiver 274 coupled to one or more antennas 280. Only one antenna 280 is illustrated. One, some, or all of the antennas may alternatively be panels. The transmitter 272 and the receiver 274 may be integrated as a transceiver. The NT-TRP 172 further includes a processor 276 for performing operations including those related to: preparing a transmission for downlink transmission to the ED 110, processing an uplink transmission received from the ED 110, preparing a transmission for backhaul transmission to T-TRP 170, and processing a transmission received over backhaul from the T-TRP 170. Processing operations related to preparing a transmission for downlink or backhaul transmission may include operations such as encoding, modulating, precoding (e.g. MIMO precoding) , transmit beamforming, and generating symbols for transmission. Processing operations related to processing received transmissions in the uplink or over backhaul may include operations such as receive beamforming, and demodulating and decoding received symbols. In some embodiments, the processor 276 implements the transmit beamforming and / or receive beamforming based on beam direction information (e.g. BAI) received from T-TRP 170. In some embodiments, the processor 276 may generate signaling, e.g. to configure one or more parameters of the ED 110. In some embodiments, the NT-TRP 172 implements physical layer processing, but does not implement higher layer functions such as functions at the medium access control (MAC) or radio link control (RLC) layer. As this is only an example, more generally, the NT-TRP 172 may implement higher layer functions in addition to physical layer processing.

[0089] The NT-TRP 172 further includes a memory 278 for storing information and data. Although not illustrated, the processor 276 may form part of the transmitter 272 and / or receiver 274. Although not illustrated, the memory 278 may form part of the processor 276.

[0090] The processor 276 and the processing components of the transmitter 272 and receiver 274 may each be implemented by the same or different one or more processors that are configured to execute instructions stored in a memory, e.g. in memory 278. Alternatively, some or all of the processor 276 and the processing components of the transmitter 272 and receiver 274 may be implemented using dedicated circuitry, such as a programmed FPGA, a GPU, or an ASIC. In some embodiments, the NT-TRP 172 may actually be a plurality of NT-TRPs that are operating together to serve the ED 110, e.g. through coordinated multipoint transmissions.

[0091] The T-TRP 170, the NT-TRP 172, and / or the ED 110 may include other components, but these have been omitted for the sake of clarity.

[0092] One or more steps of the embodiment methods provided herein may be performed by corresponding units or modules, according to FIG. 1D. FIG. 1D illustrates units or modules in a device, such as in ED 110, in T-TRP 170, or in NT- TRP 172. For example, a signal may be transmitted by a transmitting unit or a transmitting module. For example, a signal may be transmitted by a transmitting unit or a transmitting module. A signal may be received by a receiving unit or a receiving module. A signal may be processed by a processing unit or a processing module. Other steps may be performed by an artificial intelligence (AI) or machine learning (ML) module. The respective units or modules may be implemented using hardware, one or more components or devices that execute software, or a combination thereof. For instance, one or more of the units or modules may be an integrated circuit, such as a programmed FPGA, a GPU, or an ASIC. It will be appreciated that where the modules are implemented using software for execution by a processor for example, they may be retrieved by a processor, in whole or part as needed, individually or together for processing, in single or multiple instances, and that the modules themselves may include instructions for further deployment and instantiation.

[0093] Additional details regarding the EDs 110, T-TRP 170, and NT-TRP 172 are known to those of skill in the art. As such, these details are omitted here.

[0094] An air interface generally includes a number of components and associated parameters that collectively specify how a transmission is to be sent and / or received over a wireless communications link between two or more communicating devices. For example, an air interface may include one or more components defining the waveform (s) , frame structure (s) , multiple access scheme (s) , protocol (s) , coding scheme (s) and / or modulation scheme (s) for conveying information (e.g. data) over a wireless communications link. The wireless communications link may support a link between a radio access network and user equipment (e.g. a “Uu” link) , and / or the wireless communications link may support a link between device and device, such as between two user equipments (e.g. a “sidelink” ) , and / or the wireless communications link may support a link between a non-terrestrial (NT) -communication network and user equipment (UE) . The followings are some examples for the above components:

[0095] A waveform component may specify a shape and form of a signal being transmitted. Waveform options may include orthogonal multiple access waveforms and non-orthogonal multiple access waveforms. Non-limiting examples of such waveform options include Orthogonal Frequency Division Multiplexing (OFDM) , Filtered OFDM (f-OFDM) , Time windowing OFDM, Filter Bank Multicarrier (FBMC) , Universal Filtered Multicarrier (UFMC) , Generalized Frequency Division Multiplexing (GFDM) , Wavelet Packet Modulation (WPM) , Faster Than Nyquist (FTN) Waveform, and low Peak to Average Power Ratio Waveform (low PAPR WF) .

[0096] A frame structure component may specify a configuration of a frame or group of frames. The frame structure component may indicate one or more of a time, frequency, pilot signature, code, or other parameter of the frame or group of frames. More details of frame structure will be discussed below.

[0097] A multiple access scheme component may specify multiple access technique options, including technologies defining how communicating devices share a common physical channel, such as: Time Division Multiple Access (TDMA) , Frequency Division Multiple Access (FDMA) , Code Division Multiple Access (CDMA) , Single Carrier Frequency Division Multiple Access (SC-FDMA) , Low Density Signature Multicarrier Code Division Multiple Access (LDS-MC-CDMA) , Non-Orthogonal Multiple Access (NOMA) , Pattern Division Multiple Access (PDMA) , Lattice Partition Multiple Access (LPMA) , Resource Spread Multiple Access (RSMA) , and Sparse Code Multiple Access (SCMA) . Furthermore, multiple access technique options may include: scheduled access vs. non-scheduled access, also known as grant-free access; non-orthogonal multiple access vs. orthogonal multiple access, e.g., via a dedicated channel resource (e.g., no sharing between multiple communicating devices) ; contention-based shared channel resources vs. non-contention-based shared channel resources, and cognitive radio-based access.

[0098] A hybrid automatic repeat request (HARQ) protocol component may specify how a transmission and / or a re-transmission is to be made. Non-limiting examples of transmission and / or re-transmission mechanism options include those that specify a scheduled data pipe size, a signaling mechanism for transmission and / or re-transmission, and a re-transmission mechanism.

[0099] A coding and modulation component may specify how information being transmitted may be encoded / decoded and modulated / demodulated for transmission / reception purposes. Coding may refer to methods of error detection and forward error correction. Non-limiting examples of coding options include turbo trellis codes, turbo product codes, fountain codes, low-density parity check codes, and polar codes. Modulation may refer, simply, to the constellation (including, for example, the modulation technique and order) , or more specifically to various types of advanced modulation methods such as hierarchical modulation and low PAPR modulation.

[0100] In some embodiments, the air interface may be a “one-size-fits-all concept” . For example, the components within the air interface cannot be changed or adapted once the air interface is defined. In some implementations, only limited parameters or modes of an air interface, such as a cyclic prefix (CP) length or a multiple input multiple output (MIMO) mode, can be configured. In some embodiments, an air interface design may provide a unified or flexible framework to support below 6 GHz and beyond 6 GHz frequency (e.g., mmWave) bands for both licensed and unlicensed access. As an example, flexibility of a configurable air interface provided by a scalable numerology and symbol duration may allow for transmission parameter optimization for different spectrum bands and for different services / devices. As another example, a unified air interface may be self-contained in a frequency domain, and a frequency domain self-contained design may support more flexible radio access network (RAN) slicing through channel resource sharing between different services in both frequency and time.

[0101] A frame structure is a feature of the wireless communication physical layer that defines a time domain signal transmission structure, e.g. to allow for timing reference and timing alignment of basic time domain transmission units. Wireless communication between communicating devices may occur on time-frequency resources governed by a frame structure. The frame structure may sometimes instead be called a radio frame structure.

[0102] Depending upon the frame structure and / or configuration of frames in the frame structure, frequency division duplex (FDD) and / or time-division duplex (TDD) and / or full duplex (FD) communication may be possible. FDD communication is when transmissions in different directions (e.g. uplink vs. downlink) occur in different frequency bands. TDD communication is when transmissions in different directions (e.g. uplink vs. downlink) occur over different time durations. FD communication is when transmission and reception occurs on the same time-frequency resource, i.e. a device can both transmit and receive on the same frequency resource concurrently in time.

[0103] One example of a frame structure is a frame structure in long-term evolution (LTE) having the following specifications: each frame is 10 ms in duration; each frame has 10 subframes, which are each 1 ms in duration; each subframe includes two slots, each of which is 0.5 ms in duration; each slot is for transmission of 7 OFDM symbols (assuming normal CP) ; each OFDM symbol has a symbol duration and a particular bandwidth (or partial bandwidth or bandwidth partition) related to the number of subcarriers and subcarrier spacing; the frame structure is based on OFDM waveform parameters such as subcarrier spacing and CP length (where the CP has a fixed length or limited length options) ; and the switching gap between uplink and downlink in TDD has to be the integer time of OFDM symbol duration.

[0104] Another example of a frame structure is a frame structure in new radio (NR) having the following specifications: multiple subcarrier spacings are supported, each subcarrier spacing corresponding to a respective numerology; the frame structure depends on the numerology, but in any case the frame length is set at 10 ms, and consists of ten subframes of 1 ms each; a slot is defined as 14 OFDM symbols, and slot length depends upon the numerology. For example, the NR frame structure for normal CP 15 kHz subcarrier spacing ( “numerology 1” ) and the NR frame structure for normal CP 30 kHz subcarrier spacing ( “numerology 2” ) are different. For 15 kHz subcarrier spacing a slot length is 1 ms, and for 30 kHz subcarrier spacing a slot length is 0.5 ms. The NR frame structure may have more flexibility than the LTE frame structure.

[0105] Another example of a frame structure is an example flexible frame structure, e.g. for use in a 6G network or later. In a flexible frame structure, a symbol block may be defined as the minimum duration of time that may be scheduled in the flexible frame structure. A symbol block may be a unit of transmission having an optional redundancy portion (e.g. CP  portion) and an information (e.g. data) portion. An OFDM symbol is an example of a symbol block. A symbol block may alternatively be called a symbol. Embodiments of flexible frame structures include different parameters that may be configurable, e.g. frame length, subframe length, symbol block length, etc. A non-exhaustive list of possible configurable parameters in some embodiments of a flexible frame structure include:

[0106] (1) Frame: The frame length need not be limited to 10 ms, and the frame length may be configurable and change over time. In some embodiments, each frame includes one or multiple downlink synchronization channels and / or one or multiple downlink broadcast channels, and each synchronization channel and / or broadcast channel may be transmitted in a different direction by different beamforming. The frame length may be more than one possible value and configured based on the application scenario. For example, autonomous vehicles may require relatively fast initial access, in which case the frame length may be set as 5 ms for autonomous vehicle applications. As another example, smart meters on houses may not require fast initial access, in which case the frame length may be set as 20 ms for smart meter applications.

[0107] (2) Subframe duration: A subframe might or might not be defined in the flexible frame structure, depending upon the implementation. For example, a frame may be defined to include slots, but no subframes. In frames in which a subframe is defined, e.g. for time domain alignment, then the duration of the subframe may be configurable. For example, a subframe may be configured to have a length of 0.1 ms or 0.2 ms or 0.5 ms or 1 ms or 2 ms or 5 ms, etc. In some embodiments, if a subframe is not needed in a particular scenario, then the subframe length may be defined to be the same as the frame length or not defined.

[0108] (3) Slot configuration: A slot might or might not be defined in the flexible frame structure, depending upon the implementation. In frames in which a slot is defined, then the definition of a slot (e.g. in time duration and / or in number of symbol blocks) may be configurable. In one embodiment, the slot configuration is common to all UEs or a group of UEs. For this case, the slot configuration information may be transmitted to UEs in a broadcast channel or common control channel (s) . In other embodiments, the slot configuration may be UE specific, in which case the slot configuration information may be transmitted in a UE-specific control channel. In some embodiments, the slot configuration signaling can be transmitted together with frame configuration signaling and / or subframe configuration signaling. In other embodiments, the slot configuration can be transmitted independently from the frame configuration signaling and / or subframe configuration signaling. In general, the slot configuration may be system common, base station common, UE group common, or UE specific.

[0109] (4) Subcarrier spacing (SCS) : SCS is one parameter of scalable numerology which may allow the SCS to possibly range from 15 KHz to 480 KHz. The SCS may vary with the frequency of the spectrum and / or maximum UE speed to minimize the impact of the Doppler shift and phase noise. In some examples, there may be separate transmission and reception frames, and the SCS of symbols in the reception frame structure may be configured independently from the SCS of symbols in the transmission frame structure. The SCS in a reception frame may be different from the SCS in a transmission frame. In some examples, the SCS of each transmission frame may be half the SCS of each reception frame. If the SCS between a reception frame and a transmission frame is different, the difference does not necessarily have to scale by a factor of two, e.g. if more flexible symbol durations are implemented using inverse discrete Fourier transform (IDFT) instead of fast Fourier transform (FFT) . Additional examples of frame structures can be used with different SCSs.

[0110] (5) Flexible transmission duration of basic transmission unit: The basic transmission unit may be a symbol block (alternatively called a symbol) , which in general includes a redundancy portion (referred to as the CP) and an information (e.g. data) portion, although in some embodiments the CP may be omitted from the symbol block. The CP length may be flexible and configurable. The CP length may be fixed within a frame or flexible within a frame, and the CP length may possibly change from one frame to another, or from one group of frames to another group of frames, or from one subframe to another subframe, or from one slot to another slot, or dynamically from one scheduling to another scheduling. The information (e.g. data) portion may be flexible and configurable. Another possible parameter relating to a symbol block that  may be defined is ratio of CP duration to information (e.g. data) duration. In some embodiments, the symbol block length may be adjusted according to: channel condition (e.g. mulit-path delay, Doppler) ; and / or latency requirement; and / or available time duration. As another example, a symbol block length may be adjusted to fit an available time duration in the frame.

[0111] (6) Flexible switch gap: A frame may include both a downlink portion for downlink transmissions from a base station, and an uplink portion for uplink transmissions from UEs. A gap may be present between each uplink and downlink portion, which is referred to as a switching gap. The switching gap length (duration) may be configurable. A switching gap duration may be fixed within a frame or flexible within a frame, and a switching gap duration may possibly change from one frame to another, or from one group of frames to another group of frames, or from one subframe to another subframe, or from one slot to another slot, or dynamically from one scheduling to another scheduling.

[0112] The concept of cell, carrier, bandwidth parts (BWPs) and occupied bandwidth will be described below.

[0113] A device, such as a base station, may provide coverage over a cell. Wireless communication with the device may occur over one or more carrier frequencies. A carrier frequency will be referred to as a carrier. A carrier may alternatively be called a component carrier (CC) . A carrier may be characterized by its bandwidth and a reference frequency, e.g. the center or lowest or highest frequency of the carrier. A carrier may be on licensed or unlicensed spectrum. Wireless communication with the device may also or instead occur over one or more bandwidth parts (BWPs) . For example, a carrier may have one or more BWPs. More generally, wireless communication with the device may occur over spectrum. The spectrum may comprise one or more carriers and / or one or more BWPs.

[0114] A cell may include one or multiple downlink resources and optionally one or multiple uplink resources, or a cell may include one or multiple uplink resources and optionally one or multiple downlink resources, or a cell may include both one or multiple downlink resources and one or multiple uplink resources. As an example, a cell might only include one downlink carrier / BWP, or only include one uplink carrier / BWP, or include multiple downlink carriers / BWPs, or include multiple uplink carriers / BWPs, or include one downlink carrier / BWP and one uplink carrier / BWP, or include one downlink carrier / BWP and multiple uplink carriers / BWPs, or include multiple downlink carriers / BWPs and one uplink carrier / BWP, or include multiple downlink carriers / BWPs and multiple uplink carriers / BWPs. In some embodiments, a cell may instead or additionally include one or multiple sidelink resources, including sidelink transmitting and receiving resources.

[0115] A BWP is a set of contiguous or non-contiguous frequency subcarriers on a carrier, or a set of contiguous or non-contiguous frequency subcarriers on multiple carriers, or a set of non-contiguous or contiguous frequency subcarriers, which may have one or more carriers.

[0116] In some embodiments, a carrier may have one or more BWPs, e.g. a carrier may have a bandwidth of 20 MHz and consist of one BWP, or a carrier may have a bandwidth of 80 MHz and consist of two adjacent contiguous BWPs, etc. In other embodiments, a BWP may have one or more carriers, e.g. a BWP may have a bandwidth of 40 MHz and consists of two adjacent contiguous carriers, where each carrier has a bandwidth of 20 MHz. In some embodiments, a BWP may comprise non-contiguous spectrum resources which consists of non-contiguous multiple carriers, where the first carrier of the non-contiguous multiple carriers may be in mmW band, the second carrier may be in a low band (such as 2 GHz band) , the third carrier (if it exists) may be in THz band, and the fourth carrier (if it exists) may be in visible light band. Resources in one carrier which belong to the BWP may be contiguous or non-contiguous. In some embodiments, a BWP has non-contiguous spectrum resources on one carrier.

[0117] Wireless communication may occur over an occupied bandwidth. The occupied bandwidth may be defined as the width of a frequency band such that, below the lower and above the upper frequency limits, the mean powers emitted are each equal to a specified percentage β / 2 of the total mean transmitted power, for example, the value of β / 2 is taken as 0.5%.

[0118] The carrier, the BWP, or the occupied bandwidth may be signaled by a network device (e.g. base station) dynamically, e.g. in physical layer control signaling such as DCI, or semi-statically, e.g. in radio resource control (RRC) signaling or in the medium access control (MAC) layer, or be predefined based on the application scenario; or be determined by the UE as a function of other parameters that are known by the UE, or may be fixed, e.g. by a standard.

[0119] In current networks, frame timing and synchronization is established based on synchronization signals, such as a primary synchronization signal (PSS) and a secondary synchronization signal (SSS) . Notably, known frame timing and synchronization strategies involve adding a timestamp, e.g., (xx0: yy0: zz) , to a frame boundary, where xx0, yy0, zz in the timestamp may represent a time format such as hour, minute, and second, respectively.

[0120] It is anticipated that diverse applications and use cases in future networks may involve usage of different periods of frames, slots and symbols to satisfy the different requirements, functionalities and Quality of Service (QoS) types. It follows that usage of different periods of frames to satisfy these applications may present challenges for frame timing alignment among diverse frame structures. Consider, for example, frame timing alignment for a TDD configuration in neighboring carrier frequency bands or among sub-bands (or bandwidth parts) of one channel / carrier bandwidth.

[0121] The present disclosure relates, generally, to mobile, wireless communication and, in particular embodiments, to a frame timing alignment / realignment, where the frame timing alignment / realignment may comprise a timing alignment / realignment in terms of a boundary of a symbol, a slot or a sub-frame within a frame; or a frame (thus the frame timing alignment / realignment here is more general, not limiting to the cases where a timing alignment / realignment is from a frame boundary only) . Also, in this application, relative timing to a frame or frame boundary should be interpreted in a more general sense, i.e., the frame boundary means a timing point of a frame element with the frame such as (starting or ending of) a symbol, a slot or subframe within a frame, or a frame. In the following, the phrases “ (frame) timing alignment or timing realignment” and “relative timing to a frame boundary” are used in more general sense described in above.

[0122] In overview, aspects of the present application relate to a network device, such as a base station 170, referenced hereinafter as a TRP 170, transmitting signaling that carries a timing realignment indication message. The timing realignment indication message includes information allowing a receiving UE 110 to determine a timing reference point. On the basis of the timing reference point, transmission of frames, by the UE 110, may be aligned. In some aspects of the present application, the frames that become aligned are in different sub-bands of one carrier frequency band. In other aspects of the present application, the frames that become aligned are found in neighboring carrier frequency bands.

[0123] On the TRP 170 side, aspects of the present application relate to use of one or more types of signaling to indicate the timing realignment (or / and timing correction) message. Two example types of signaling are provided here to show the schemes. The first example type of signaling may be referenced as cell-specific signaling, examples of which include group common signaling and broadcast signaling. The second example type of signaling may be referenced as UE-specific signaling. One of these two types of signaling or a combination of the two types of signaling may be used to transmit a timing realignment indication message. The timing realignment indication message may be shown to notify one or more UEs 110 of a configuration of a timing reference point. References, hereinafter, to the term “UE 110” may be understood to represent reference to a broad class of generic wireless communication devices within a cell (i.e., a network receiving node, such as a wireless device, a sensor, a gateway, a router, etc. ) , that is, being served by the TRP 170. A timing reference point is a timing reference instant and may be expressed in terms of a relative timing, in view of a timing point in a frame, such as (starting or ending boundary of) a symbol, a slot or a sub-frame within a frame; or a frame. For a simple description in the following, the term “a frame boundary” is used to represent a boundary of possibly a symbol, a slot or a sub-frame within a frame; or a frame. Thus, the timing reference point may be expressed in terms of a relative timing, in view of a current frame boundary, e.g., the start of the current frame. Alternatively, the timing reference point may be expressed in terms of an absolute timing based on certain standards timing reference such as a GNSS (e.g., GPS) , Coordinated Universal Time ( “UTC” ) , etc. In the absolute timing version of the timing reference point, a timing reference point may be explicitly stated.

[0124] The timing reference point may be shown to allow for timing adjustments to be implemented at the UEs 110. The timing adjustments may be implemented for improvement of accuracy for a clock at the UE 110. Alternatively, or additionally, the timing reference point may be shown to allow for adjustments to be implemented in future transmissions made from the UEs 110. The adjustments may be shown to cause realignment of transmitted frames at the timing reference point. Note that the realignment of transmitted frames at the timing reference point may comprise the timing realignment from (the starting boundary of) a symbol, a slot or a sub-frame within a frame; or a frame at the timing reference point for one or more UEs and one or more BSs (in a cell or a group of cells) , which applies across the application below.

[0125] At UE 110 side, the UE 110 may monitor for the timing realignment indication message. Responsive to receiving the timing realignment indication message, the UE 110 may obtain the timing reference point and take steps to cause frame realignment at the timing reference point. Those steps may, for example, include commencing transmission of a subsequent frame at the timing reference point.

[0126] Furthermore, or alternatively, before monitoring for the timing realignment indication message, the UE 110 may cause the TRP 170 to transmit the timing realignment indication message by transmitting, to the TRP 170, a request for a timing realignment, that is, a timing realignment request message. Responsive to receiving the timing realignment request message, the TRP 170 may transmit, to the UE 110, a timing realignment indication message including information on a timing reference point, thereby allowing the UE 110 to implement a timing realignment (or / and a timing adjustment including clock timing error correction) , wherein the timing realignment is in terms of (e.g., a starting boundary of) a symbol, a slot or a sub-frame within a frame; or a frame for UEs and base station (s) in a cell (or a group of cells) .

[0127] According to aspects of the present application, a TRP 170 associated with a given cell may transmit a timing realignment indication message. The timing realignment indication message may include enough information to allow a receiver of the message to obtain a timing reference point. The timing reference point may be used, by one or more UEs 110 in the given cell, when performing a timing realignment (or / and a timing adjustment including clock timing error correction) .

[0128] According to aspects of the present application, the timing reference point may be expressed, within the timing realignment indication message, relative to a frame boundary (where, as previously described and to be applicable below across the application, a frame boundary can be a boundary of a symbol, a slot or a sub-frame with a frame; or a frame) . The timing realignment indication message may include a relative timing indication, Δt. It may be shown that the relative timing indication, Δt, expresses the timing reference point as occurring a particular duration, i.e., Δt, subsequent to a frame boundary for a given frame. Since the frame boundary is important to allowing the UE 110 to determine the timing reference point, it is important that the UE 110 be aware of the given frame that has the frame boundary of interest. Accordingly, the timing realignment indication message may also include a system frame number (SFN) for the given frame.

[0129] It is known, in 5G NR, that the SFN is a value in range from 0 to 1023, inclusive. Accordingly, 10 bits may be used to represent a SFN. When a SFN is carried by an SSB, six of the 10 bits for the SFN may be carried in a Master Information Block (MIB) and the remaining four bits of the 10 bits for the SFN may be carried in a Physical Broadcast Channel (PBCH) payload.

[0130] Optionally, the timing realignment indication message may include other parameters. The other parameters may, for example, include a minimum time offset. The minimum time offset may establish a duration of time preceding the timing reference point. The UE 110 may rely upon the minimum time offset as an indication that DL signaling, including the timing realignment indication message, will allow the UE 110 enough time to detect the timing realignment indication message to obtain information on the timing reference point.

[0131] A generic background for 6G integrated sensing and communication will now be described. User Equipment (UE) position information is often used in cellular communication networks to improve various performance metrics for the network. Such performance metrics may, for example, include capacity, agility, and efficiency. The improvement may be  achieved when elements of the network exploit the position, the behavior, the mobility pattern, etc., of the UE in the context of a priori information describing a wireless environment in which the UE is operating.

[0132] A sensing system may be used to help gather UE pose information, including its location in a global coordinate system, its velocity and direction of movement in the global coordinate system, orientation information, and the information about the wireless environment. “Location” is also known as “position” and these two terms may be used interchangeably herein. Examples of well-known sensing systems include RADAR (Radio Detection and Ranging) and LIDAR (Light Detection and Ranging) . While the sensing system can be separate from the communication system, it could be advantageous to gather the information using an integrated system, which reduces the hardware (and cost) in the system as well as the time, frequency, or spatial resources needed to perform both functionalities. However, using the communication system hardware to perform sensing of UE pose and environment information is a highly challenging and open problem. The difficulty of the problem relates to factors such as the limited resolution of the communication system, the dynamicity of the environment, and the huge number of objects whose electromagnetic properties and position are to be estimated.

[0133] Accordingly, integrated sensing and communication (also known as integrated communication and sensing) is a desirable feature in existing and future communication systems

[0134] Any or all of the EDs 110 and BS 170 may be sensing nodes in the communication system 100E as illustrated in FIG. 1E, which is an example sensing system in accordance with some example embodiments of the present disclosure. Sensing nodes are network entities that perform sensing by transmitting and receiving sensing signals. Some sensing nodes are communication equipment that perform both communications and sensing. However, it is possible that some sensing nodes do not perform communications, and are instead dedicated to sensing. FIG. 1E differs from FIG. 1B in that there is a sensing agent 195 in the communication system 100E, which is absent in FIG. 1B. The sensing agent 195 is an example of a sensing node that is dedicated to sensing. Unlike the EDs 110 and BS 170, the sensing agent 195 does not transmit or receive communication signals. However, the sensing agent 195 may communicate configuration information, sensing information, signaling information, or other information within the communication system 100E. The sensing agent 195 may be in communication with the core network 130 to communicate information with the rest of the communication system 100E. By way of example, the sensing agent 195 may determine the location of the ED 110a, and transmit this information to the base station 170a via the core network 130. Although only one sensing agent 195 is shown in FIG. 1E, any number of sensing agents may be implemented in the communication system 100E. In some embodiments, one or more sensing agents may be implemented at one or more of the RANs 120.

[0135] A sensing node may combine sensing-based techniques with reference signal-based techniques to enhance UE pose determination. This type of sensing node may also be known as a sensing management function (SMF) . In some networks, the SMF may also be known as a location management function (LMF) . The SMF may be implemented as a physically independent entity located at the core network 130 with connection to the multiple BSs 170. In other aspects of the present application, the SMF may be implemented as a logical entity co-located inside a BS 170 through logic carried out by the processor 260.

[0136] FIG. 1F illustrates an example apparatus 100F that may implement the methods and teachings according to this disclosure. In particular, FIG. 1F illustrates an example SMF 176, which may be implemented in a UE 110, a system node 120, or a network node 130. As will be discussed further below, the SMF 176 may be specialized, or include specialized components, to support training and / or execution of AI models (e.g., training and / or execution of neural networks) .

[0137] As shown in FIG. 1F, the SMF 176, when implemented as a physically independent entity, includes at least one processor 290, at least one transmitter 282, at least one receiver 284, one or more antennas 286, and at least one memory 288. A transceiver, not shown, may be used instead of the transmitter 282 and receiver 284. A scheduler 283 may be coupled to the processor 290. The scheduler 283 may be included within or operated separately from the SMF 176. The processor 290 implements various processing operations of the SMF 176, such as signal coding, data processing, power control,  input / output processing, or any other functionality. The processor 290 can also be configured to implement some or all of the functionality and / or embodiments described in more detail above. Each processor 290 includes any suitable processing or computing device configured to perform one or more operations. Each processor 290 could, for example, include a microprocessor, microcontroller, digital signal processor, field programmable gate array, or application specific integrated circuit.

[0138] A reference signal-based pose determination technique belongs to an “active” pose estimation paradigm. In an active pose estimation paradigm, the enquirer of pose information (i.e., the UE) takes part in process of determining the pose of the enquirer. The enquirer may transmit or receive (or both) a signal specific to pose determination process. Positioning techniques based on a global navigation satellite system (GNSS) such as Global Positioning System (GPS) are other examples of the active pose estimation paradigm.

[0139] In contrast, a sensing technique, based on radar for example, may be considered as belonging to a “passive” pose determination paradigm. In a passive pose determination paradigm, the target is oblivious to the pose determination process.

[0140] By integrating sensing and communications in one system, the system need not operate according to only a single paradigm. Thus, the combination of sensing-based techniques and reference signal-based techniques can yield enhanced pose determination.

[0141] The enhanced pose determination may, for example, include obtaining UE channel sub-space information, which is particularly useful for UE channel reconstruction at the sensing node, especially for a beam-based operation and communication. The UE channel sub-space is a subset of the entire algebraic space, defined over the spatial domain, in which the entire channel from the TP to the UE lies. Accordingly, the UE channel sub-space defines the TP-to-UE channel with very high accuracy. The signals transmitted over other sub-spaces result in a negligible contribution to the UE channel. Knowledge of the UE channel sub-space helps to reduce the effort needed for channel measurement at the UE and channel reconstruction at the network-side. Therefore, the combination of sensing-based techniques and reference signal-based techniques may enable the UE channel reconstruction with much less overhead as compared to traditional methods. Sub-space information can also facilitate sub-space based sensing to reduce sensing complexity and improve sensing accuracy. In some embodiments of integrated sensing and communication, a same radio access technology (RAT) is used for sensing and communication. This avoids the need to multiplex two different RATs under one carrier spectrum, or necessitating two different carrier spectrums for the two different RATs.

[0142] In embodiments that integrate sensing and communication under one RAT, a first set of channels may be used to transmit a sensing signal, and a second set of channels may be used to transmit a communications signal. In some embodiments, each channel in the first set of channels and each channel in the second set of channels is a logical channel, a transport channel, or a physical channel.

[0143] At the physical layer, communication and sensing may be performed via separate physical channels. For example, a first physical downlink shared channel PDSCH-C is defined for data communication, while a second physical downlink shared channel PDSCH-Sis defined for sensing. Similarly, separate physical uplink shared channels (PUSCH) , PUSCH-C and PUSCH-S, could be defined for uplink communication and sensing.

[0144] In another example, the same PDSCH and PUSCH could be also used for both communication and sensing, with separate logical layer channels and / or transport layer channels defined for communication and sensing. Note also that control channel (s) and data channel (s) for sensing can have the same or different channel structure (format) , occupy same or different frequency bands or bandwidth parts.

[0145] In a further example, a common physical downlink control channel (PDCCH) and a common physical uplink control channel (PUCCH) is used to carry control information for both sensing and communication. Alternatively, separate physical layer control channels may be used to carry separate control information for communication and sensing. For  example, PUCCH-S and PUCCH-C could be used for uplink control for sensing and communication respectively, and PDCCH-S and PDCCH-C for downlink control for sensing and communication respectively.

[0146] Different combinations of shared and dedicated channels for sensing and communication, at each of the physical, transport, and logical layers, are possible.

[0147] The term RADAR originates from the phrase Radio Detection and Ranging; however, expressions with different forms of capitalization (i.e., Radar and radar) are equally valid and now more common. Radar is typically used for detecting a presence and a location of an object. A radar system radiates radio frequency energy and receives echoes of the energy reflected from one or more targets. The system determines the pose of a given target based on the echoes returned from the given target. The radiated energy can be in the form of an energy pulse or a continuous wave, which can be expressed or defined by a particular waveform. Examples of waveforms used in radar include frequency modulated continuous wave (FMCW) and ultra-wideband (UWB) waveforms.

[0148] Radar systems can be monostatic, bi-static, or multi-static. In a monostatic radar system, the radar signal transmitter and receiver are co-located, such as being integrated in a transceiver. In a bi-static radar system, the transmitter and receiver are spatially separated, and the distance of separation is comparable to, or larger than, the expected target distance (often referred to as the range) . In a multi-static radar system, two or more radar components are spatially diverse but with a shared area of coverage. A multi-static radar is also referred to as a multisite or netted radar.

[0149] Terrestrial radar applications encounter challenges such as multipath propagation and shadowing impairments. Another challenge is the problem of identifiability because terrestrial targets have similar physical attributes. Integrating sensing into a communication system is likely to suffer from these same challenges, and more.

[0150] Communication nodes can be either half-duplex or full-duplex. A half-duplex node cannot both transmit and receive using the same physical resources (time, frequency, etc. ) ; conversely, a full-duplex node can transmit and receive using the same physical resources. Existing commercial wireless communications networks are all half-duplex. Even if full-duplex communications networks become practical in the future, it is expected that at least some of the nodes in the network will still be half-duplex nodes because half-duplex devices are less complex, and have lower cost and lower power consumption. In particular, full-duplex implementation is more challenging at higher frequencies (e.g. in the millimeter wave bands) , and very challenging for small and low-cost devices, such as femtocell base stations and UEs.

[0151] The limitation of half-duplex nodes in the communications network presents further challenges toward integrating sensing and communications into the devices and systems of the communications network. For example, both half-duplex and full-duplex nodes can perform bi-static or multi-static sensing, but monostatic sensing typically requires the sensing node have full-duplex capability. A half-duplex node may perform monostatic sensing with certain limitations, such as in a pulsed radar with a specific duty cycle and ranging capability.

[0152] Sensing signal waveform and frame structure will now be described. Properties of a sensing signal, or a signal used for both sensing and communication, include the waveform of the signal and the frame structure of the signal. The frame structure defines the time-domain boundaries of the signal. The waveform describes the shape of the signal as a function of time and frequency. Examples of waveforms that can be used for a sensing signal include ultra-wide band (UWB) pulse, Frequency-Modulated Continuous Wave (FMCW) or “chirp” , orthogonal frequency-division multiplexing (OFDM) , cyclic prefix (CP) -OFDM, and Discrete Fourier Transform spread (DFT-s) -OFDM.

[0153] In an embodiment, the sensing signal is a linear chirp signal with bandwidth B and time duration T. Such a linear chirp signal is generally known from its use in FMCW radar systems. A linear chirp signal is defined by an increase in frequency from an initial frequency, fchirp0, at an initial time, tchirp0, to a final frequency, fchirp1, at a final time, tchirp1 where the relation between the frequency (f) and time (t) can be expressed as a linear relation of f-fchirp0 = α (t-tchirp0) , where is defined as the chirp slope. The bandwidth of the linear chirp signal may be  defined as B=fchirp1-fchirp0 and the time duration of the linear chirp signal may be defined as T=tchirp1-tchirp0. Such linear chirp signal can be presented as in the baseband representation.

[0154] Precoding as used herein may refer to any coding operation (s) or modulation (s) that transform an input signal into an output signal. Precoding may be performed in different domains, and typically transform the input signal in a first domain to an output signal in a second domain. Precoding may include linear operations.

[0155] A terrestrial communication system may also be referred to as a land-based or ground-based communication system, although a terrestrial communication system can also, or instead, be implemented on or in water. The non-terrestrial communication system may bridge the coverage gaps for underserved areas by extending the coverage of cellular networks through non-terrestrial nodes, which will be key to ensuring global seamless coverage and providing mobile broadband services to unserved / underserved regions, in this case, it is hardly possible to implement terrestrial access-points / base-stations infrastructure in the areas like oceans, mountains, forests, or other remote areas.

[0156] The terrestrial communication system may be a wireless communications using 5G technology and / or later generation wireless technology (e.g., 6G or later) . In some examples, the terrestrial communication system may also accommodate some legacy wireless technology (e.g., 3G or 4G wireless technology) . The non-terrestrial communication system may be a communications using the satellite constellations like Geo-Stationary Orbit (GEO) satellites which utilizing broadcast public / popular contents to a local server, Low earth orbit (LEO) satellites establishing a better balance between large coverage area and propagation path-loss / delay, stabilize satellites in very low earth orbits (VLEO) enabling technologies substantially reducing the costs for launching satellites to lower orbits, high altitude platforms (HAPs) providing a low path-loss air interface for the users with limited power budget, or Unmanned Aerial Vehicles (UAVs) (or unmanned aerial system (UAS) ) achieving a dense deployment since their coverage can be limited to a local area, such as airborne, balloon, quadcopter, drones, etc. In some examples, GEO satellites, LEO satellites, UAVs, HAPs and VLEOs may be horizontal and two-dimensional. In some examples, UAVs, HAPs and VLEOs coupled to integrate satellite communications to cellular networks emerging 3D vertical networks consist of many moving (other than geostationary satellites) and high altitude access points such as UAVs, HAPs and VLEOs.

[0157] Multiple input multiple-output (MIMO) technology allows an antenna array of multiple antennas to perform signal transmissions and receptions to meet high transmission rate requirement. The above ED110 and T-TRP 170, and / or NT-TRP use MIMO to communicate over the wireless resource blocks. MIMO utilizes multiple antennas at the transmitter and / or receiver to transmit wireless resource blocks over parallel wireless signals. MIMO may beamform parallel wireless signals for reliable multipath transmission of a wireless resource block. MIMO may bond parallel wireless signals that transport different data to increase the data rate of the wireless resource block.

[0158] In recent years, a MIMO (large-scale MIMO) wireless communication system with the above T-TRP 170, and / or NT-TRP 172 configured with a large number of antennas has gained wide attentions from the academia and the industry. In the large-scale MIMO system, the T-TRP 170, and / or NT-TRP 172 is generally configured with more than ten antenna units (such as 128 or 256) , and serves for dozens of the ED 110 (such as 40) in the meanwhile. A large number of antenna units of the T-TRP 170, and NT-TRP 172 can greatly increase the degree of spatial freedom of wireless communication, greatly improve the transmission rate, spectrum efficiency and power efficiency, and eliminate the interference between cells to a large extent. The increase of the number of antennas makes each antenna unit be made in a smaller size with a lower cost. Using the degree of spatial freedom provided by the large-scale antenna units, the T-TRP 170, and NT-TRP 172 of each cell can communicate with many ED 110 in the cell on the same time-frequency resource at the same time, thus greatly increasing the spectrum efficiency. A large number of antenna units of the T-TRP 170, and / or NT-TRP 172 also enable each user to have better spatial directivity for uplink and downlink transmission, so that the transmitting power of the T-TRP 170, and / or NT-TRP 172 and an ED 110 is obviously reduced, and the power efficiency is greatly increased. When the antenna number of the T-TRP 170, and / or NT-TRP 172 is sufficiently large, random channels between each ED 110 and the T-TRP  170, and / or NT-TRP 172 can approach to be orthogonal, and the interference between the cell and the users and the effect of noises can be eliminated. The plurality of advantages described above enable the large-scale MIMO to have a magnificent application prospect.

[0159] A MIMO system may include a receiver connected to a receive (Rx) antenna, a transmitter connected to transmit (Tx) antenna, and a signal processor connected to the transmitter and the receiver. Each of the Rx antenna and the Tx antenna may include a plurality of antennas. For instance, the Rx antenna may have an ULA antenna array in which the plurality of antennas are arranged in line at even intervals. When a radio frequency (RF) signal is transmitted through the Tx antenna, the Rx antenna may receive a signal reflected and returned from a forward target.

[0160] A non-exhaustive list of possible unit or possible configurable parameters or in some embodiments of a MIMO system include:

[0161] Panel: unit of antenna group, or antenna array, or antenna sub-array which can control its Tx or Rx beam independently.

[0162] Beam: A beam is formed by performing amplitude and / or phase weighting on data transmitted or received by at least one antenna port, or may be formed by using another method, for example, adjusting a related parameter of an antenna unit. The beam may include a Tx beam and / or a Rx beam. The transmit beam indicates distribution of signal strength formed in different directions in space after a signal is transmitted through an antenna. The receive beam indicates distribution of signal strength that is of a wireless signal received from an antenna and that is in different directions in space. The beam information may be a beam identifier, or antenna port (s) identifier, or CSI-RS resource identifier, or SSB resource identifier, or SRS resource identifier, or other reference signal resource identifier.

[0163] Artificial Intelligence technologies can be applied in communication, including artificial intelligence or machine learning (AI / ML) based communication in the physical layer and / or AI / ML based communication in the higher layer, e.g., medium access control (MAC) layer. For example, in the physical layer, the AI / ML based communication may aim to optimize component design and / or improve the algorithm performance. For the MAC layer, the AI / ML based communication may aim to utilize the AI / ML capability for learning, prediction, and / or making a decision to solve a complicated optimization problem with possible better strategy and / or optimal solution, e.g. to optimize the functionality in the MAC layer, e.g. intelligent TRP management, intelligent beam management, intelligent channel resource allocation, intelligent power control, intelligent spectrum utilization, intelligent modulation and coding scheme (MCS) , intelligent hybrid automatic repeat request (HARQ) strategy, intelligent transmit / receive (Tx / Rx) mode adaption, etc.

[0164] The following are some terminologies which are used in AI / ML field:

[0165] Data collection

[0166] Data is the very important component for AI / ML techniques. Data collection is a process of collecting data by the network nodes, management entity, or UE for the purpose of AI / ML model training, data analytics and inference.

[0167] AI / ML model training

[0168] AI / ML model training is a process to train an AI / ML Model by learning the input / output relationship in a data driven manner and obtain the trained AI / ML Model for inference.

[0169] AI / ML model inference

[0170] A process of using a trained AI / ML model to produce a set of outputs based on a set of inputs.

[0171] AI / ML model validation

[0172] As a sub-process of training, validation is used to evaluate the quality of an AI / ML model using a dataset different from the one used for model training. Validation can help selecting model parameters that generalize beyond the dataset used for model training. The model parameter after training can be adjusted further by the validation process.

[0173] AI / ML model testing

[0174] Similar with validation, testing is also a sub-process of training, and it is used to evaluate the performance of a final AI / ML model using a dataset different from the one used for model training and validation. Differently from AI / ML model validation, testing do not assume subsequent tuning of the model.

[0175] Online training:

[0176] Online training means an AI / ML training process where the model being used for inference is typically continuously trained in (near) real-time with the arrival of new training samples.

[0177] Offline training:

[0178] An AI / ML training process where the model is trained based on collected dataset, and where the trained model is later used or delivered for inference.

[0179] AI / ML model delivery / transfer

[0180] A generic term referring to delivery of an AI / ML model from one entity to another entity in any manner. Delivery of an AI / ML model over the air interface includes either parameters of a model structure known at the receiving end or a new model with parameters. Delivery may contain a full model or a partial model.

[0181] Life cycle management (LCM)

[0182] When the AI / ML model is trained and / or inferred at one device, it is necessary to monitor and manage the whole AI / ML process to guarantee the performance gain obtained by AI / ML technologies. For example, due to the randomness of wireless channels and the mobility of UEs, the propagation environment of wireless signals changes frequently. Nevertheless, it is difficult for an AI / ML model to maintain optimal performance in all scenarios for all the time, and the performance may even deteriorate sharply in some scenarios. Therefore, the lifecycle management (LCM) of AI / ML models is essential for sustainable operation of AI / ML in NR air-interface.

[0183] Life cycle management covers the whole procedure of AI / ML technologies which applied on one or more nodes. In specific, it includes at least one of the following sub-process: data collection, model training, model identification, model registration, model deployment, model configuration, model inference, model selection, model activation, deactivation, model switching, model fallback, model monitoring, model update, model transfer / delivery and UE capability report.

[0184] Model monitoring can be based on inference accuracy, including metrics related to intermediate key performance indicator (KPI) s, and it can also be based on system performance, including metrics related to system performance KPIs, e.g., accuracy and relevance, overhead, complexity (computation and memory cost) , latency (timeliness of monitoring result, from model failure to action) and power consumption. Moreover, data distribution may shift after deployment due to the environment changes, thus the model based on input or output data distribution should also be considered.

[0185] Supervised learning:

[0186] The goal of supervised learning algorithms is to train a model that maps feature vectors (inputs) to labels (output) , based on the training data which includes the example feature-label pairs. The supervised learning can analyze the training data and produce an inferred function, which can be used for mapping the inference data.

[0187] Supervised learning can be further divided into two types: Classification and Regression. Classification is used when the output of the AI / ML model is categorical i.e. with two or more classes. Regression is used when the output of the AI / ML model is a real or continuous value.

[0188] Unsupervised learning:

[0189] In contrast to supervised learning where the AI / ML models learn to map the input to the target output, the unsupervised methods learn concise representations of the input data without the labelled data, which can be used for data  exploration or to analyze or generate new data. One typical unsupervised learning is clustering which explores the hidden structure of input data and provide the classification results for the data.

[0190] Reinforce learning:

[0191] Reinforce learning is used to solve sequential decision-making problems. Reinforce learning is a process of training the action of intelligent agent from input (state) and a feedback signal (reward) in an environment. In reinforce learning, an intelligent agent interacts with an environment by taking an action to maximize the cumulative reward. Whenever the intelligent agent takes one action, the current state in the environment may transfer to the new state, and the new state resulted by the action will bring to the associated reward. Then the intelligent agent can take the next action based on the received reward and new state in the environment. During the training phase, the agent interacts with the environment to collect experience. The environments often mimicked by the simulator since it is expensive to directly interact with the real system. In the inference phase, the agent can use the optimal decision-making rule learned from the training phase to achieve the maximal accumulated reward.

[0192] Federated learning:

[0193] Federated learning (FL) is a machine learning technique that is used to train an AI / ML model by a central node (e.g., server) and a plurality of decentralized edge nodes (e.g., UEs, next Generation NodeBs, “gNBs” ) .

[0194] According to the wireless FL technique, a server may provide, to an edge node, a set of model parameters (e.g., weights, biases, gradients) that describe a global AI / ML model. The edge node may initialize a local AI / ML model with the received global AI / ML model parameters. The edge node may then train the local AI / ML model using local data samples to, thereby, produce a trained local AI / ML model. The edge node may then provide, to the serve, a set of AI / ML model parameters that describe the local AI / ML model.

[0195] Upon receiving, from a plurality of edge nodes, a plurality of sets of AI / ML model parameters that describe respective local AI / ML models at the plurality of edge nodes, the server may aggregate the local AI / ML model parameters reported from the plurality of UEs and, based on such aggregation, update the global AI / ML model. A subsequent iteration progresses much like the first iteration. The server may transmit the aggregated global model to a plurality of edge nodes. The above procedure is performed multiple iterations until the global AI / ML model is considered to be finalized, e.g., the AI / ML model is converged or the training stopping conditions are satisfied.

[0196] Notably, the wireless FL technique does not involve exchange of local data samples. Indeed, the local data samples remain at respective edge nodes.

[0197] AI technologies (which encompass ML technologies) may be applied in communication, including AI-based communication in the physical layer and / or AI-based communication in the MAC layer. For the physical layer, the AI communication may aim to optimize component design and / or improve the algorithm performance. For example, AI may be applied in relation to the implementation of: channel coding, channel modelling, channel estimation, channel decoding, modulation, demodulation, MIMO, waveform, multiple access, physical layer element parameter optimization and update, beam forming, tracking, sensing, and / or positioning, etc. For the MAC layer, the AI communication may aim to utilize the AI capability for learning, prediction, and / or making a decision to solve a complicated optimization problem with possible better strategy and / or optimal solution, e.g. to optimize the functionality in the MAC layer. For example, AI may be applied to implement: intelligent TRP management, intelligent beam management, intelligent channel resource allocation, intelligent power control, intelligent spectrum utilization, intelligent MCS, intelligent HARQ strategy, and / or intelligent transmission / reception mode adaption, etc.

[0198] An AI architecture may involve multiple nodes, where the multiple nodes may possibly be organized in one of two modes, i.e., centralized and distributed, both of which may be deployed in an access network, a core network, or an edge computing system or third party network. A centralized training and computing architecture is restricted by possibly large  communication overhead and strict user data privacy. A distributed training and computing architecture may comprise several frameworks, e.g., distributed machine learning and federated learning. In some embodiments, an AI architecture may comprise an intelligent controller which can perform as a single agent or a multi-agent, based on joint optimization or individual optimization. New protocols and signaling mechanisms are desired so that the corresponding interface link can be personalized with customized parameters to meet particular requirements while minimizing signaling overhead and maximizing the whole system spectrum efficiency by personalized AI technologies.

[0199] New protocols and signaling mechanisms are provided for operating within and switching between different modes of operation, including between AI and non-AI modes, and for measurement and feedback to accommodate the different possible measurements and information that may need to be fed back, depending upon the implementation.

[0200] An air interface that uses AI as part of the implementation, e.g. to optimize one or more components of the air interface, will be referred to herein as an “AI enabled air interface” . In some embodiments, there may be two types of AI operation in an AI enabled air interface: both the network and the UE implement learning; or learning is only applied by the network.

[0201] AI-related communications between the system node 120 and one or more UEs 110 may be via an existing interface such as the Uu link in 5G and 4G network systems, or may be via an AI-dedicated air interface (e.g., using an AI-related protocol on an AI-related logical layer, as discussed herein) . For example, AI-related communications between a system node 120 and a UE 110 served by the system node 120 may be over an AI-dedicated air interface, whereas non-AI-related communications may be over a 5G or 4G Uu link.

[0202] FIG. 1G illustrates a schematic diagram of an example model 100G in accordance with some example embodiments of the present disclosure. The pre-trained big model is also referred to as a global model, or called as foundation model. The pre-trained big model may be deployed at the core network (CN) or a third party to support multiple tasks. The pre-trained big model 100G is utilized here as a basis for AI tasks at the radio access network (RAN) side.

[0203] As illustrated in FIG. 1G, the model 100G is pre-trained for a plurality of tasks. When task-1 is input to the pre-trained big model, an inference-1 corresponding to the input task-1 can be obtained. Similarly, when task-2 is input to the pre-trained big model, an inference-2 corresponding to the input task-2 can be obtained. This goes on and on. When task-N (N is an integer larger than 2) is input to the pre-trained big model, an inference-N corresponding to the input task-N can be obtained.

[0204] Currently, more and more AI tasks will be in the future network, if for each AI task, RAN node (e.g. BS) trains its own model, the fragmented models are too expensive (because individual hardware should be prepared for each AI model) and not efficient. In this circumstance, the RAN side can obtain a basic customized model from the global model (e.g., the customized model is a smaller model than the global model) , and perform fine-tuning on the local model. This is the basic technical concept of this disclosure, and will be described later in more detail with reference to FIGS. 2-9.

[0205] To support the use of AI in a wireless network, an appropriate AI framework is needed. However, 5G only consider the AI use cases to improve network performance, does not support network providing AI service (s) to UE. Considering there are massive devices in the NW which have data and computing capability, by distributed training / inference, network could provide AI service (s) .

[0206] The present disclosure defines an AI / ML functional framework to provide AI functionalities as a service. FIG. 2 illustrates a flowchart of an example method 200 implemented in an AI / ML functional framework in accordance with some example embodiments of the present disclosure. Only for the purpose of discussion, the method 200 will be described with reference to FIGS. 1A-1G. The method 200 may involve an AI / ML functional framework, which will be described in more detail with reference to FIG. 3.

[0207] As illustrated in FIG. 2, the method 200 includes, at 210, performing at least one operation based on an AI / ML functional framework, for example, the AI / ML function framework 300 as illustrated in FIG. 3. In this way, the AI / ML function framework 300 may be enabled to provide AI functionalities as a service.

[0208] FIG. 3 illustrates a schematic AI / ML functional framework 300 in accordance with some example embodiments of the present disclosure. The AI / ML functional framework 300 may include at least one of the first function 340, the second function 345 or the third function 350. The first function 340 may be configured to determine first one or more devices for participating in a training process of an AI / ML model. The second function 345 may be configured to determine second one or more devices for performing model monitoring or functionality monitoring of the AI / ML model. The third function 350 may be configured to determine third one or more devices for performing model inference based on the AI / ML model. In some example embodiments, the AI / ML functional framework 300 may further include at least one of the fourth function 355, the fifth function 360, the sixth function 365, the seventh function 370, or the eighth function 375. The fourth function 355 may be configured to perform model training of the AI / ML model based on the training process. The fifth function 360 may be configured to perform model management of the AI / ML model. The sixth function 365 may be configured to provide at least one inference result of the model inference. The seventh function 370 may be configured to provide first input data to the first function, provide second input data to the second function, and provide third input data to the third function. The eighth function 375 may be configured to store the AI / ML model. Here, when referring to “aspecific function is configured to do something” , it may mean that the specific function is configured, for example, by a base station device or a core network device, to do something. Alternatively or in addition, it may mean that the specific function is pre-defined, for example, in a specification (for example, in a 3GPP specification) , to do something.

[0209] The first function 340 may be further configured to activate at least one device among the first one or more devices to participate in the training process. Alternatively or in addition, the first function 340 may be further configured to deactivate at least one device among the first one or more devices to stop participating in the training process. Alternatively or in addition, the first function 340 may be further configured to provide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device: at least one training task, at least one training functionality, or model delivery. In this way, the first function 340 may obtain more accurate AI / ML model and be embedded with more functionalities.

[0210] The second function 345 may be further configured to activate at least one device among the second one or more devices to perform the model monitoring or functionality monitoring. Alternatively or in addition, the second function 345 may be further configured to deactivate at least one device among the second one or more devices to stop performing the model monitoring or functionality monitoring Alternatively or in addition, the second function 345 may be further configured to provide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device: at least one monitoring task, at least one monitoring functionality, or model delivery. In this way, the second function 345 can monitor the AI / ML model more flexibly and can intervene in time once the performance of the AI / ML model degrades to an undesired level.

[0211] The third function 350 may be further configured to activate at least one device among the third one or more devices to perform the model inference. Alternatively or in addition, the third function 350 may be further configured to deactivate at least one device among the third one or more devices to stop performing the model inference. Alternatively or in addition, the third function 350 may be further configured to provide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device: at least one inference task, at least one inference functionality, or model delivery. In this way, the third function 350 can obtain more accurate inference results.

[0212] The fourth function 355 may be further configured to validate the AI / ML model. Alternatively or in addition, the fourth function 355 may be further configured to test the AI / ML model. Alternatively or in addition, the fourth function 355  may be further configured to perform data preparation associated with the AI / ML model. In this way, the fourth function 355 can improve reliability of the AI / ML model.

[0213] The fifth function 360 may be further configured to perform control of the model training of the AI / ML model. Alternatively or in addition, the fifth function 360 may be further configured to perform control of the model inference of the AI / ML model. Alternatively or in addition, the fifth function 360 may be further configured to monitor output of the AI / ML model. In this way, the fifth function 360 can control operations related to the AI / ML model more flexibly and more reliably.

[0214] The sixth function 365 may be further configured to perform an action based on the at least one inference result. Alternatively or in addition, the sixth function 365 may be further configured to perform data preparation based on the third input data obtained from the seventh function 370. In this way, with the at least one inference result, the sixth function 365 can improve the accuracy and reliability of the AI / ML model.

[0215] The seventh function 370 may be further configured to provide the first input data to the fourth function 355. Alternatively or in addition, the seventh function 370 may be further configured to provide the second input data to the fifth function 360. Alternatively or in addition, the seventh function 370 may be further configured to provide the third input data to the sixth function 365. In this way, with the seventh function 370 providing the first, second and third input data suitable for the fourth function 355, fifth function 360 and sixth function 365, respectively, the AI / ML functional framework 300 can provide an AI / ML model which can deliver accurate AI service (s) .

[0216] The first function 340 may receive the first input data from the seventh function 370. Alternatively or in addition, the first function 340 may receive the AI / ML model from the fourth function 355. Alternatively or in addition, the first function 340 may provide the AI / ML model to the first one or more devices. Alternatively or in addition, the first function 340 may obtain one or more local models from the first one or more devices. Alternatively or in addition, the first function 340 may transmit the one or more local models to the fourth function 355. The one or more local models may be generated by training the AI / ML model based on local data at the first one or more devices. In this way, the first function 340 can obtain one or more local models from the first one or more devices. In other words, the first function 340 can help train the AI / ML model at the first one or more devices, thereby reducing model training burden at the fourth function 355. At the same time, with the help of the first function 340, the time consumed to obtain the trained AI / ML model at the fourth function 355 can be considerably decreased.

[0217] The second function 345 may receive the second input data from the seventh function 370. Alternatively or in addition, the second function 345 may receive the AI / ML model or a sub-model of the AI / ML model from the fifth function 360. Alternatively or in addition, the second function 345 may provide the AI / ML model or the sub-model to the second one or more devices. Alternatively or in addition, the second function 345 may obtain one or more monitoring results from the second one or more devices. Alternatively or in addition, the second function 345 may transmit the one or more monitoring results to the fifth function 360. In this way, the second function 345 can obtain one or more monitoring results from the second one or more devices. In other words, the second function 345 can help monitor the AI / ML model at the second one or more devices, thereby reducing model monitoring burden at the fifth function 360. At the same time, with the help of the second function 345, the time consumed to obtain the monitoring results at the fifth function 360 can be considerably decreased.

[0218] The third function 350 may receive the third input data from the seventh function 370. Alternatively or in addition, the third function 350 may receive the AI / ML model or a sub-model of the AI / ML model from the sixth function 365. Alternatively or in addition, the third function 350 may provide the AI / ML model or the sub-model to the third one or more devices. Alternatively or in addition, the third function 350 may obtain one or more inference results from the third one or more devices. Alternatively or in addition, the third function 350 may transmit the one or more inference results to the sixth function 365. In this way, the third function 350 can obtain one or more inference results from the third one or more devices. In other words, the third function 350 can help inference at the third one or more devices, thereby reducing model inference  burden at the sixth function 365. At the same time, with the help of the third function 350, the time consumed to obtain the inference results at the sixth function 365 can be considerably decreased.

[0219] The fourth function 355 may transmit the AI / ML model to the first function 340. Alternatively or in addition, the fourth function 355 may receive one or more local models from the first function 340 (here the one or more local models are generated by training the AI / ML model based on local data at the first one or more devices) . Alternatively or in addition, the fourth function 355 may aggregate the one or more local models to generate a trained or updated AI / ML model. Alternatively or in addition, the fourth function 355 may transmit the trained or updated AI / ML model to the eighth function 375. In this way, the fourth function 355 can obtain the trained or updated AI / ML model, in such a manner that the AI / ML model is trained at the first one or more devices using local data at the first one or more devices. Therefore, the trained or updated AI / ML model may be more accurate than otherwise the AI / ML model is not trained at the first one or more devices using local data, and the model training burden at the fourth function 355 can be reduced. At the same time, with the help of the first function 340, the time consumed to obtain the trained or updated AI / ML model at the fourth function 355 can be considerably decreased.

[0220] The fourth function 355 may receive the first input data from the seventh function 370. Alternatively or in addition, the fourth function 355 may receive, from the fifth function 360, a performance level of the AI / ML model and a request to retrain the AI / ML model. In this way, the fourth function 355 can retrain the AI / ML model in response to that the performance level of the AI / ML model is below a threshold. Therefore, the AI / ML model can be retrained to keep the performance level above the threshold.

[0221] The fifth function 355 may receive the second input data from the seventh function. Alternatively or in addition, the fifth function 355 may receive the at least one inference result from the sixth function. Alternatively or in addition, the fifth function 355 may transmit the AI / ML model or a sub-model of the AI / ML model to the second function. Alternatively or in addition, the fifth function 355 may receive one or more monitoring results from the second function. Here, the one or more monitoring results may be provided by the second one or more devices. In this way, the fifth function 360 can obtain one or more monitoring results from the second function 345. In other words, with the help from the second function 345, model monitoring burden at the fifth function 360 can be reduced. At the same time, the time consumed to obtain the monitoring results at the fifth function 360 can be considerably decreased.

[0222] The fifth function 355 may determine that a performance level of the AI / ML model is below a threshold level based on at least one of (i) the at least one inference result received from the sixth function 365 or (ii) the one or more monitoring results received from the second function 345, and then transmit, to the fourth function 355, the performance level of the AI / ML model and a request to retrain the AI / ML model. In this way, the fifth function 355 can retrain the AI / ML model in response to that the performance level of the AI / ML model is below a threshold based on information from the sixth function 365 or second function 345. Therefore, the AI / ML model can be retrained to keep the performance level above the threshold.

[0223] The fifth function 355 may transmit, to the sixth function 365, a switching indication to switch from the AI / ML model to another AI / ML model. Alternatively or in addition, the fifth function 355 may transmit, to the sixth function 365, a fallback indication to apply a non-AI / ML model instead of the AI / ML model. Alternatively or in addition, the fifth function 355 may transmit, to the sixth function 365, an activating indication to activate one or more of a plurality of candidate AI / ML models. Alternatively or in addition, the fifth function 355 may transmit, to the sixth function 365, a deactivating indication to deactivate one or more of the plurality of candidate AI / ML models. In this way, the fifth function 360 can determine an AI / ML model to be used, for example, when the performance level meets a certain condition, thus the AI / ML functional framework can enable much more flexible AI functionalities as a service.

[0224] The fifth function 360 may transmit, to the eighth function 375, a request that the eighth function 375 transmits the AI / ML model to the sixth function 365. In this way, the fifth function 360 can indicate the eighth function 375 to provide  the latest (or newest) AI / ML model (for example, an updated or retrained AI / ML model) to the sixth function 365 for future inference tasks, improving the accuracy and reliability of the inference tasks.

[0225] The sixth function 365 may transmit the AI / ML model or a sub-model of the AI / ML model to the third function 350. Alternatively or in addition, the sixth function 365 may receive one or more inference results from the third function 350 (here the one or more inference results are provided by the third one or more devices) . Alternatively or in addition, the sixth function 365 may combine the one or more inference results to obtain the at least one inference result. Alternatively or in addition, the sixth function 365 may transmit the at least one inference result to the fifth function 360. In this way, the sixth function 365 can obtain one or more inference results from the third function 350. In other words, with the help of the third function 350, model inference burden at the sixth function 365 can be reduced. At the same time, the time consumed to obtain the inference results at the sixth function 365 can be considerably decreased.

[0226] The sixth function 365 may receive, from the fifth function 360, a switching indication to switch from the AI / ML model to another AI / ML model. Alternatively or in addition, the sixth function 365 may receive, from the fifth function 360, a fallback indication to apply a non-AI / ML model instead of the AI / ML model. Alternatively or in addition, the sixth function 365 may receive, from the fifth function 360, an activating indication to activate one or more of a plurality of candidate AI / ML models. Alternatively or in addition, the sixth function 365 may receive, from the fifth function 360, a deactivating indication to deactivate one or more of the plurality of candidate AI / ML models. In this way, the sixth function 360 can provide an AI / ML model to be used which is determined by the fifth function, for example, when the performance level meets a certain condition, thus the AI / ML functional framework can enable much more flexible AI functionalities as a service.

[0227] The sixth function 365 may receive the third input data from the seventh function 370. Alternatively or in addition, the sixth function 365 may receive the AI / ML model from the eighth function 375. In this way, the sixth function 365 can obtain the latest (or newest) AI / ML model (for example, an updated or retrained AI / ML model) from the eighth function 375 for future inference tasks, improving the accuracy and reliability of the inference tasks.

[0228] The eighth function 375 may receive a trained or updated AI / ML model from the fourth function 355 (here the trained or updated AI / ML model is generated by aggregating one or more local models trained at the first one or more devices) . Alternatively or in addition, the eighth function 375 may receive, from the fifth function 360, a request that the eighth function 375 transmits the AI / ML model to the sixth function 365. Alternatively or in addition, the eighth function 375 may transmit the AI / ML model to the sixth function 365. In this way, the eighth function 375 can obtain, store and provide the latest (or newest) AI / ML model (for example, an updated or retrained AI / ML model) for future inference tasks, improving the accuracy and reliability of the inference tasks.

[0229] In some example embodiments, the AI / ML model may be a first AI / ML model, and the fourth function 355 may receive a second AI / ML model from the fifth function 360. Alternatively or in addition, the fourth function 355 may perform fine-tuning of the second AI / ML model. Alternatively or in addition, the fourth function 355 may transmit the fine-tuned second AI / ML model to the eighth function 375. In this way, the fourth function 355 can fine-tune the second AI / ML model, whereby a more accurate AI / ML model can thus be obtained. In this case, the fifth function 360 may transmit a second AI / ML model to the fourth function 355. In this way, the fourth function 355 can fine-tune the second AI / ML model, whereby a more accurate AI / ML model can thus be obtained. The eighth function 375 may receive a fine-tuned second AI / ML model from the fourth function 355. Here, the fine-tuned second AI / ML model is generated by fine-tuning a second AI / ML model. In this way, the eighth function 375 can obtain the fine-tuned second AI / ML model.

[0230] The first one or more devices may transmit training data among the first one or more devices via sidelink transmission. Alternatively or in addition, the second one or more devices may transmit monitoring data among the second one or more devices via sidelink transmission. Alternatively or in addition, the third one or more devices may transmit inference data among the third one or more devices via sidelink transmission. In this way, the first, second or third one or  more devices can participate in model training, monitoring or inference autonomously via sidelink transmission, which can decrease communication overhead significantly at the base station or core network as compared with a case where all model training, monitoring and inference are performed at the base station or the core network.

[0231] For example, the first one or more devices may include at least one basic device and at least one aggregation device. A basic device may transmit a local model of the basic device to a first aggregation device. The first aggregation device may receive one or more local models from one or more basic devices. The first aggregation device may receive one or more common models from one or more other aggregation devices. In this case, a common model may be generated by aggregating a plurality of local models. The first aggregation device may aggregate the one or more local models and the one or more common models to generate an updated common model. The first aggregation device may transmit the updated common model to a second aggregation device. In this way, local models can be aggregated to generate an updated common model, thus communication overhead can be decreased significantly at the base station or core network as compared with a case where all model training is performed at the base station or the core network.

[0232] Moreover, the second one or more devices may include at least one basic device and at least one aggregation device. A basic device may transmit a monitoring result of the basic device to a first aggregation device. The first aggregation device may receive one or more monitoring results from one or more basic devices. The first aggregation device may aggregate the one or more monitoring results to obtain an aggregated monitoring result. The first aggregation device may transmit the aggregated monitoring result to a second aggregation device. In this way, one or more (local) monitoring results can be aggregated to obtain an aggregated monitoring result, thus communication overhead can be decreased significantly at the base station or core network as compared with a case where all model monitoring is performed at the base station or the core network.

[0233] The third one or more devices may include at least one basic device and at least one aggregation device. A basic device may transmit an inference result of the basic device to a first aggregation device. The first aggregation device may receive one or more inference results from one or more basic devices. The first aggregation device may aggregate the one or more inference results to obtain an aggregated inference result. The first aggregation device may transmit the aggregated inference result to a second aggregation device. In this way, one or more (local) inference results can be aggregated to obtain an aggregated inference result, thus communication overhead can be decreased significantly at the base station or core network as compared with a case where all model inference is performed at the base station or the core network.

[0234] The seventh function 370 may comprise a first sub-function, a second sub-function and a third sub-function. The first sub-function may be configured to provide a first portion of the first input data, a first portion of the second input data, and a first portion of the third input data. Here, the first portions of the first input data, the second input data, and the third input data include ground truth data. The second sub-function may be configured to provide a second portion of the first input data, a second portion of the second input data, and a second portion of the third input data. Here the second portions of the first input data, the second input data, and the third input data include data other than ground truth data. The third sub-function configured to control a first type of devices for collecting data and a second type of devices for collecting data. Here the data collected by the first type of devices include ground truth data and the data collected by the second type of devices include data other than ground truth data. In this way, data collection can be managed in an organized manner. At the same time, a device can be utilized in data collection based on its type.

[0235] In some example embodiments, at least one of the first function, the second function, the third function, the fourth function, the fifth function, the sixth function, the seventh function, or the eighth function is implemented in one of a terminal device, an access network device, a core network device, or a third party device. In this way, the terminal device, access network device, core network device, and third party device can be utilized in the AI / ML functional framework 300 to provide the AI / ML model as a service with high accuracy and convenience.

[0236] In this way, according to the method 200 performing at least one operation based on an AI / ML functional framework (for example, the AI / ML functional framework 300) , AI / ML model can be provided by the AI / ML functional framework 300 as a service with high accuracy and convenience.

[0237] FIG. 4 illustrates a schematic diagram of an example AI / ML functional framework 400 and the flowchart of operations in the AI / ML functional framework 400 in accordance with some embodiments of the present disclosure. The AI / ML functional framework 400 as shown in FIG. 4 includes 8 parts, i.e., a training client (s) management function 440, a monitoring client (s) management function 445, an inference client (s) management function 450, a model training function 455, a management function 460, an inference function 465, a data collection function 470 and a model storage function 475, which may be an example of the first function 340, second function 345, third function 350, fourth function 355, fifth function 360, sixth function 365, seventh function 370 and eighth function 375 as illustrated in FIG. 3, respectively.

[0238] The data collection function 470 may be an example of the seventh function 370 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that provides input data to training client (s) management function 440, monitoring client (s) management function 445, inference client (s) management function 450, model training function 455, management function 460 and inference function 465. Examples of input data may include measurements from UEs or different network entities, where the measurement maybe RF sensing measurement, non-RF sensing (LIDAR (Light Detection and Ranging) , camera, video, sensor, etc. ) measurement, reference signal measurement.

[0239] As illustrated in FIG. 4, the data collection function 470 transmits training data 402 to the training client (s) management function 440, transmits monitoring data 404 to the monitoring client (s) management function 445 and transmits inference data 406 to the inference client (s) management function 450. The data collection function 470 may also transmit the training data 402 to the model training function 455, transmits the monitoring data 404 to the management function 460 and transmits the inference data 406 to the inference function 465.

[0240] Training data 402 as illustrated in FIG. 4 is data needed as input for the training client (s) management function 440. The training data 402 may also be input to the model training function 455. For example, training data 402 as used herein may be data for model training, and may include assistance information for model training.

[0241] Monitoring data 404 as illustrated in FIG. 4 is data needed as input for the monitoring client (s) management function 445. The monitoring data 404 may also be input to the management function 460.

[0242] Inference data 406 as illustrated in FIG. 4 is data needed as input for the inference client (s) management function 450. The inference data 406 may also be input to the inference function 465.

[0243] Model training function 455 may be an example of the fourth function 355 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that performs the AI / ML model training, validation, and testing which may generate model performance metrics as part of the model testing procedure. The model training function 455 may be also responsible for data preparation. Data preparation may include, for example, data pre-processing and cleaning, formatting, and transformation.

[0244] In addition, model training function 455 may be also responsible for model delivery 408 to training client (s) management function 440. In distribute learning, multiple device may participate the learning procedure, and send the local trained model to an aggregation node, and the aggregation node aggregates received multiple local models to generate an updated model. One typical distributed learning is federated learning, where BS initializes the model, samples a group of UEs and group-cast parameters of the model to the selected UEs. Each UE initializes its local model using the received model parameters, and updates (trains) its local model using its own data (i.e., local data) . Then each UE reports parameters of the updated local model to the BS. The BS aggregates the updated parameters reported from UEs and updates the model. The aforementioned procedure is one iteration of AI training procedure. BS and UE may perform multiple iterations until finalize the model. Therefore, interaction between model training function and other function may include at least one procedure of model delivery 408, model feedback 410, model aggregation or trained / updated model 422.

[0245] In the model delivery 408 procedure, the model training function 455 may send a global model or a part of the global model (sub-model of the global model) to selected training clients, so the training clients can use the global model or sub-model of the global model to train its local model.

[0246] In the model feedback 410 procedure, the model training function 455 may receive local models sent from training client (s) management function 440. The received local model may have the same or different model structure or model size as the global model.

[0247] The model aggregation procedure is an internal operation within the model training function 455. In the model aggregation procedure, the model training function 455 may aggregate multiple received local models and generated an updated global model.

[0248] The trained / updated model 422 procedure is used to send, by the model training function 455, a trained AI / ML model (e.g. by distributed learning) to the model storage function 475 or to deliver an updated AI / ML model to the model storage function 475.

[0249] Training client (s) management function 440 may be an example of the first function 340 as illustrated in FIG. 3, and is a function that performs training UE selection, training UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the training capability or have the large training dataset size, only partial devices are available for training. In addition, because those devices have poor channel quality or have power saving requirement, they will be deactivated for training.

[0250] The training client (s) management function 440 may also be responsible for indicating a training task or training functionality of an AI / ML model for a device. In other words, a device can train partial functionalities or partial parameters of a large model. For example, the large model may be the global model at the model training function 455. The training client (s) management function 440 may involve at least one procedure of training data 402, model delivery 408 or model feedback 410. In the training data 402 procedure, the training client (s) management function 440 receives the training data 402 from the data collection function 470, as mentioned above in connection with the data collection function 470. In the model delivery 408 procedure, as mentioned above in connection with the model training function 455, the training client (s) management function 440 receives a global model or sub-model of the global model from the model training function 455, so the training clients can use the global model or sub-model of the global model to train its local model. In the model feedback 410 procedure, the training client (s) management function 440 sends local models to the model training function 455, as described above in connection with the model training function 455. The local model may have the same or different model structure or model size as the global model.

[0251] The monitoring client (s) management function 445 may be an example of the second function 345 as illustrated in FIG. 3, and is a function that performs monitoring UE selection, monitoring UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the AI / ML capability and / or power for monitoring, only partial devices are available for monitoring, which means only sub-model of devices (not all devices) are capable of monitoring.

[0252] The monitoring client (s) management function 445 may also be responsible for indicating a monitoring task or monitoring a functionality of an AI / ML model for a device. For example, a device can monitor partial functionalities or partial parameters of a large model. The large model may be the global model at the training function. The monitoring client (s) management function 445 may involve at least one function of monitoring data 404, model delivery 412 or monitoring output 414. In the monitoring data 404 procedure, the monitoring client (s) management function 445 receives monitoring data 404 from the data collection function 470, which is described above in connection with the data collection function 470. In the model delivery 412 procedure, the monitoring client (s) management function 445 receives a global model or sub-model of the global model from the management function 460, so the monitoring clients can use the global model or sub-model to monitor the performance. In the monitoring output 414 procedure, the monitoring client (s) management function 445 sends monitoring output (monitoring results) 414 to the management function 460.

[0253] Management function 460 is an example of the fifth function 360 as illustrated in FIG. 3, and is a function that is responsible for performing control on model training function 455 and Inference function 465. The management function 460 monitors the model output. If the model qualities are no longer applicable, the management function 460 may request the model training function 455 to re-train the model, and may indicate the model inference function 465 to switch the model currently used.

[0254] As for the model performance monitoring, the management function 460 may receive the monitoring data 404 (e.g. the ground truth data) from data collection function 470. Then the management function 460 may compare the AI / ML model output and the ground truth data. In this way, the model performance can be evaluated.

[0255] Then the management function 460 may involve at least one procedure of inference output 416 from the inference function 465, model delivery 412 or monitoring output 414 from the monitoring client (s) management function 445.

[0256] In the inference output 416 procedure from the inference function 465, the inference function 465 may transmit an inference output 416 to the management function 460, and at the other side of communication, the management function 460 may receive the inference output of the inference function 465. The output may include the performance of the model inference.

[0257] In the model delivery 412 procedure, the management function 460 may send a global model or sub-model of the global model to the monitoring client (s) management function 445.

[0258] In the monitoring output 414 procedure from the monitoring client (s) management function 445, the monitoring client (s) management function 445 may transmit a monitoring output 414 (which may be monitoring results) to the management function 460, and at the other side of communication, the management function 460 may receive the monitoring output 414 from the monitoring client (s) management function 445.

[0259] If certain information derived from the inference function 465 or information derived from the performance monitoring in the management function 460 is suitable for improvement of the AI / ML model trained in model training function 455, the management function 460 may send a performance feedback 424 to the model training function 455. More specifically, when the management function 460 observes that the performance of current AI / ML model is not good enough (for example, is below a pre-defined or pre-configured performance threshold) , the management function 460 may send current AI / ML performance to the model training function 455, including current AI / ML model output and its accuracy, etc. In addition, the management function 460 may also request the model training function 455 to retrain the model to obtain an updated AI / ML model (which may be transmitted by the model training function 455 to the model storage function 475 for storage) , and request the model storage 475 to get the updated AI / ML model.

[0260] The management function 460 may also involve AI / ML model selection / activation / deactivation / switching / fallback 428. For example, when the management function 460 observes that the performance of current AI / ML model is not good enough, the management function 460 may send a model switching signalling to the inference function 465 to switch the current model (the AI / ML model currently used) to another AI / ML model, or send a fallback signalling to indicate the inference function 465 to use a non-AI model. In some instances, when there are multiple candidate AI / ML models, the management function 465 can indicate the inference function 465 to use which AI / ML model, and activate or de-activate one or multiple candidate AI / ML models.

[0261] The management function 460 may send an AI / ML model transfer request 426 to the model storage function 475 to request an AI / ML model for the inference function 465. The model transfer request 426 can be an initial model transfer request for an initially trained AI / ML model or an updated model transfer request for an updated AI / ML model obtained by re-training an existing model.

[0262] The inference client (s) management function 450 may be an example of the third function 350 as illustrated in FIG. 3, and is a function that performs inference UE selection, inference UE activation and deactivation. In distributed learning by  multiple devices, since not all devices have the AI capability and / or power for inference, only partial devices are available for inference, which means only a part of devices (not all devices) are capable of providing inference.

[0263] The inference client (s) management function 450 may also be responsible for indicating an inference task or inference functionality of an AI / ML model for a device. For example, a device can inference partial functionalities or partial task. Another example is split inference, in which case a device performs inference on partial model and another device performs inference on remaining partial model, so by the inference of the two devices, the inference of the whole model can be completed.

[0264] The inference client (s) management function 450 may involve at least one procedure of inference data 406, model delivery 418, or inference output 420. In the inference data 406 procedure, the data collection function 470 may transmit inference data 406 to the inference client (s) management function 450, which is described above. At the other end of the communication, the inference client (s) management function 450 may receive inference data 406 from the data collection function 470.

[0265] In the model delivery 418 procedure, the inference function 465 may transmit a model (for example, a global model or sub-model of the global model) to the inference client (s) management function 450. At the other end of the communication, the inference client (s) management function 450 may receive the model (for example, the global model or sub-model) from the inference function 465, so the inference clients can use the global model or sub-model to get the inference results.

[0266] In the inference output 420 procedure, the inference client (s) management function 450 may send inference output 420 (i.e., inference results) to the inference function 465.

[0267] The inference function 465 may be an example of the sixth function 365 as illustrated in FIG. 3, and is a function that provides inference results. The inference function 465 may also be responsible for performing actions according to inference results. For example, it may trigger or perform corresponding actions according to inference decision and it may trigger actions directed to other entities or to itself. The inference function 465 may also be responsible for data preparation based on inference data 406 delivered by the data collection function 470. Data preparation may include at least one of, for example, data pre-processing and cleaning, formatting, and transformation.

[0268] The inference function 465 may send inference output 416 to management function 460 to assist the management function 460 to monitor the performance of the AI / ML model.

[0269] The inference function 465 may also receive inference output 420 (i.e., inference results) from the inference client (s) management function 450. By combining the inference output 420 from multiple inference clients, the final inference results (for example, inference output 416) may be obtained with a better accuracy as compared in a case where the inference is solely performed by the inference function 465 itself.

[0270] The model storage function 475 may be an example of the eighth function 375 as illustrated in FIG. 3, and is a function that store the AI / ML model (s) . The model storage 475 may be located within RAN (e.g. at BS and / or UE side) , or outside RAN (e.g. at a core network or the third party) . The model storage function 475 receives the AI / ML model from the model training function 455. The model may be a first trained model (i.e., an initially trained model) , or a re-trained / updated model.

[0271] The model storage function 475 may receive a model transfer request 426 from the management function 460, as mentioned above in connection with management function 460. If the model storage function 475 receives the model transfer request 426, the model storage function 475 may send the corresponding model to the inference function 465. For example, the model transfer request 426 may indicate (include / comprise) the requested model ID. Then, in response to the model transfer request 426, the model storage function 475 may send, to the inference function 465, the model corresponding to the requested model ID. Alternatively or in addition, the model transfer request 426 may indicate the AI  functionality ID and / or AI performance requirement (e.g. AI accuracy, AI complexity, AI model size) . Then, in response to the model transfer request 426, the model storage function 475 may deliver a model satisfying the indicated AI functionality and / or the performance requirement to the inference function 465 for future use.

[0272] When it comes to physical entity of the AI functions, for an AI / ML function (i.e., the training client (s) management function 440, the monitoring client (s) management function 445, the inference client (s) management function 450, the model training function 455, the management function 460, the inference function 465, the data collection function 470 and the model storage function 475) illustrated in FIG. 4, it can be located at one or more of a UE, a BS, a core network, or the 3rd party. At the same time, for different AI / ML functions, it can be located at the same physical entity or different physical entities.

[0273] With the AI / ML functional framework 400 and the flowchart of operations performed in the AI / ML functional framework 400, an AI / ML functional framework (including the signaling interface among functions) can be defined to support AI / ML procedure for AI / ML as a service in the network. More specifically, by enabling client selection / feedback functionalities, distributed learning  / inference is supported.

[0274] FIG. 5 illustrates a schematic diagram of another example AI / ML functional framework 500 and the flowchart of operations in the AI / ML functional framework 500 in accordance with some embodiments of the present disclosure. The AI / ML functional framework 500 as shown in FIG. 5 includes 8 parts, i.e., a training client (s) management function 540, a monitoring client (s) management function 545, an inference client (s) management function 550, a model training  / fine-tuning function 555, a management function 560, an inference function 565, a data collection function 570 and a model storage function 575, which may be an example of the first function 340, second function 345, third function 350, fourth function 355, fifth function 360, sixth function 365, seventh function 370 and eighth function 375 as illustrated in FIG. 3, respectively, and may be similar to the training client (s) management function 440, the monitoring client (s) management function 445, the inference client (s) management function 450, the model training function 455, the management function 460, the inference function 465, the data collection function 470 and the model storage function 475 as illustrated in FIG. 4, respectively. The training data 502, monitoring data 504, inference data 506, model delivery 508, model feedback 510, model delivery 512, monitoring output 514, inference output 516, model delivery 518, inference output 520, trained  / updated fine-tuned model 522, performance feedback 524, model transfer request 526, model selection / activation / deactivation / switching / fallback 528 and model transfer 530 as illustrated in FIG. 5 may have similar meaning as the training data 402, monitoring data 404, inference data 406, model delivery 408, model feedback 410, model delivery 412, monitoring output 414, inference output 416, model delivery 418, inference output 420, trained  / updated fine-tuned model 422, performance feedback 424, model transfer request 426, model selection / activation / deactivation / switching / fallback 428 and model transfer 430 as illustrated in FIG. 4.

[0275] The AI / ML functional framework 500 differs from the AI / ML functional framework 400 as shown in FIG. 4 mainly in that, in the AI / ML functional framework 500, a large foundation model is deployed at the management function 560 and transmitted to the model training  / fine-tuning function 555 (which is indicated as model transfer 532 in FIG. 5) , which is capable of performing fine-tuning on the large model. Hereafter, the difference will be described, and the elements similar to those of FIG. 4 may refer to the corresponding description and thus may be omitted for simplicity.

[0276] The data collection function 570 may be an example of the seventh function 370 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that provides input data to training client (s) management function 540, monitoring client (s) management function 545, inference client (s) management function 550, model training  / fine-tuning function 555, management function 560 and inference function 565. Examples of input data may include measurements from UEs or different network entities, where the measurement maybe RF sensing measurement, non-RF sensing (LIDAR (Light Detection and Ranging) , camera, video, sensor, etc. ) measurement, reference signal measurement.

[0277] As illustrated in FIG. 5, the data collection function 570 transmits training data 502 to the training client (s)  management function 540, transmits monitoring data 504 to the monitoring client (s) management function 545 and transmits inference data 506 to the inference client (s) management function 550. The data collection function 570 may also transmit the training data 502 to the model training  / fine-tuning function 555, transmits the monitoring data 504 to the management function 560 and transmits the inference data 506 to the inference function 565.

[0278] Training data 502 as illustrated in FIG. 5 is data needed as input for the training client (s) management function 540. The training data 502 may also be input to the model training  / fine-tuning function 555. For example, training data 502 as used herein may be data for model training, and may include assistance information for model training.

[0279] Monitoring data 504 as illustrated in FIG. 5 is data needed as input for the monitoring client (s) management function 545. The monitoring data 504 may also be input to the management function 560.

[0280] Inference data 506 as illustrated in FIG. 5 is data needed as input for the inference client (s) management function 550. The inference data 506 may also be input to the inference function 565.

[0281] Model training  / fine-tuning function 555 may be an example of the fourth function 555 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that performs the AI / ML model training, validation, and testing which may generate model performance metrics as part of the model testing procedure. The model training  / fine-tuning function 555 may be also responsible for data preparation. Data preparation may include, for example, data pre-processing and cleaning, formatting, and transformation.

[0282] The model training  / fine-tuning function 555 may also receive a model from the management function 560, and perform fine-tuning on the received model. For example, there is a foundation model supporting multiple tasks / functionalities in the management function 560. In order to reduce the training latency, the management function 560 may send the foundation model (for example, in a model transfer procedure as illustrated in FIG. 5) to the model training / fine-tuning function 555, such that the model training / fine-tuning function 555 may perform fine-tuning on the received foundation model to train its own specific model. After a fine-tuned model which is obtained by the model training  / fine-tuning function 555 performing fine-tuning on the foundation model, the model training  / fine-tuning function 555 may send the fine-tuned model to the model storage 575, as illustrated in FIG. 5.

[0283] In addition, model training  / fine-tuning function 555 may be also responsible for model delivery 508 to training client (s) management function 540. In distribute learning, multiple device may participate the learning procedure, and send the local trained model to an aggregation node, and the aggregation node aggregates received multiple local models to generate an updated model. One typical distributed learning is federated learning, where BS initializes the model, samples a group of UEs and group-cast parameters of the model to the selected UEs. Each UE initializes its local model using the received model parameters, and updates (trains) its local model using its own data. Then each UE reports parameters of the updated local model to the BS. The BS aggregates the updated parameters reported from UEs and updates the model. The aforementioned procedure is one iteration of AI training procedure. BS and UE may perform multiple iterations until finalize the model. Therefore, interaction between model training function and other function may include at least one procedure of model delivery 508, model feedback 510, model aggregation or trained / updated fine-tuned model 522.

[0284] In the model delivery 508 procedure, the model training  / fine-tuning function 555 sends a global model or sub-model of the global model to selected training clients, so the training clients can use the global model or sub-model to train its local model.

[0285] In the model feedback 510 procedure, the model training  / fine-tuning function 555 receives local models sent from training client (s) management function 540. The received local model may have the same or different model structure or model size as the global model.

[0286] The model aggregation procedure is an internal operation within the model training  / fine-tuning function 555. In the model aggregation procedure, the model training  / fine-tuning function 555 aggregates multiple received local models and  generated an updated global model.

[0287] The trained (or updated) fine-tuned model 522 procedure is used to send, by the model training  / fine-tuning function 555, a trained (fine-tuned) AI / ML model (e.g. by distributed learning) to the model storage function 575 or to deliver an updated (fine-tuned) AI / ML model to the model storage function 575.

[0288] Training client (s) management function 540 may be an example of the first function 340 as illustrated in FIG. 3, and is a function that performs training UE selection, training UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the training capability or have the large training dataset size, only partial devices are available for training. In addition, because those devices have poor channel quality or have power saving requirement, they will be deactivated for training.

[0289] The training client (s) management function 540 may also be responsible for indicating a training task or training functionality of an AI / ML model for a device. In other words, a device can train partial functionalities or partial parameters of a large model. For example, the large model may be the global model at the model training  / fine-tuning function 555. The training client (s) management function 540 may involve at least one procedure of training data 502, model delivery 508 or model feedback 510. In the training data 502 procedure, the training client (s) management function 540 receives the training data 502 from the data collection function 570, as mentioned above in connection with the data collection function 570. In the model delivery 508 procedure, as mentioned above in connection with the model training  / fine-tuning function 555, the training client (s) management function 540 receives a global model from the model training  / fine-tuning function 555, so the training clients can use the global model to train its local model. In the model feedback 510 procedure, the training client (s) management function 540 sends local models to the model training  / fine-tuning function 555, as described above in connection with the model training  / fine-tuning function 555. The local model may have the same or different model structure or model size as the global model.

[0290] The monitoring client (s) management function 545 may be an example of the second function 345 as illustrated in FIG. 3, and is a function that performs monitoring UE selection, monitoring UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the AI / ML capability and / or power for monitoring, only partial devices are available for monitoring, which means only a part of devices (not all devices) are capable of monitoring.

[0291] The monitoring client (s) management function 545 may also be responsible for indicating a monitoring task or monitoring a functionality of an AI / ML model for a device. For example, a device can monitor partial functionalities or partial parameters of a large model. The large model may be the global model at the training function. The monitoring client (s) management function 545 may involve at least one function of monitoring data, model delivery or monitoring output. In the monitoring data 504 procedure, the monitoring client (s) management function 545 receives monitoring data 504 from the data collection function 570, which is described above in connection with the data collection function 570. In the model delivery 512 procedure, the monitoring client (s) management function 545 receives a global model or sub-model of the global model from the management function 560, so the monitoring clients can use the global model or sub-model to monitor the performance. In the monitoring output 514 procedure, the monitoring client (s) management function 545 sends monitoring output (monitoring results) 514 to the management function 560.

[0292] Management function 560 is an example of the fifth function 360 as illustrated in FIG. 3, and is a function that is responsible for performing control on model training  / fine-tuning function 555 and Inference function 565. The management function 560 monitors the inference output 516. Based on the inference output 516, if the model qualities are no longer applicable, the management function 560 may request the model training  / fine-tuning function 555 to re-train the model, and may indicate the model inference function 565 to switch the model currently used.

[0293] The management function 560 may have a foundation model at local. For example, the management function 560 may receive the foundation model from the 3rd party. Alternatively, the foundation model may be trained offline at the management function 560. As mentioned above, the management function 560 may send the foundation model to the model  training / fine-tuning function 555 to help the training procedure.

[0294] As for the model performance monitoring, the management function 560 may receive the monitor data 504 (e.g. the ground truth data) from data collection function 570. Then the management function 560 may compare the AI / ML model output (i.e., inference output 516) and the ground truth data. In this way, the model performance can be evaluated.

[0295] Then the management function 560 may involve at least one procedure of inference output 516 from the inference function 565, model delivery 512 or monitoring output 514 from the monitoring client (s) management function 545.

[0296] In the inference output 516 procedure from the inference function 565, the inference function 565 may transmit an inference output 516 to the management function 560, and at the other side of communication, the management function 560 may receive the inference output 516 of the inference function 565. The output may include the performance of the model inference.

[0297] In the model delivery procedure, the management function 560 may send a global model or sub-model of the global model to the monitoring client (s) management function 545.

[0298] In the monitoring output procedure from the monitoring client (s) management function 545, the monitoring client (s) management function 545 may transmit a monitoring output 514 (which may be monitoring results) to the management function 560, and at the other side of communication, the management function 560 may receive the monitoring output 514 from the monitoring client (s) management function 545.

[0299] If certain information derived from the inference function 565 or information derived from the performance monitoring in the management function 560 is suitable for improvement of the AI / ML model trained in model training  / fine-tuning function 555, the management function 560 may send a performance feedback 524 to the model training  / fine-tuning function 555. More specifically, when the management function 560 observes that the performance of current AI / ML model is not good enough (for example, is below a pre-defined or pre-configured performance threshold) , the management function 560 may send current AI / ML performance to the model training  / fine-tuning function 555, including current AI / ML model output and its accuracy, etc. In addition, the management function 560 may also request the model training  / fine-tuning function 555 to retrain the model to obtain an updated AI / ML model (which may be transmitted by the model training  / fine-tuning function 555 to the model storage function 575 for storage) , and request the model storage 475 to get the updated AI / ML model.

[0300] The management function 560 may also involve AI / ML model selection / activation / deactivation / , switching / fallback 528. For example, when the management function 560 observes that the performance of current AI / ML model is not good enough, the management function 560 may send a model switching signalling to the inference function 565 to switch the current model (the AI / ML model currently used) to another AI / ML model, or send a fallback signalling to indicate the inference function 565 to use a non-AI model. In some instances, when there are multiple candidate AI / ML models, the management function 565 can indicate the inference function 565 to use which AI / ML model, and activate or de-activate one or multiple candidate AI / ML models.

[0301] The management function 560 may send an AI / ML model transfer request 526 to the model storage function 575 to request an AI / ML model for the inference function 565. The model transfer request 526 can be an initial model transfer request for an initially trained AI / ML model or an updated model transfer request for an updated AI / ML model obtained by re-training an existing model.

[0302] The inference client (s) management function 550 may be an example of the third function 350 as illustrated in FIG. 3, and is a function that performs inference UE selection, inference UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the AI capability and / or power for inference, only partial devices are available for inference, which means only a part of devices (not all devices) are capable of providing inference.

[0303] The inference client (s) management function 550 may also be responsible for indicating an inference task or  inference functionality of an AI / ML model for a device. For example, a device can inference partial functionalities or partial task. Another example is split inference, in which case a device performs inference on partial model and another device performs inference on remaining partial model, so by the two devices’ inference, the inference of the whole model can be completed.

[0304] The inference client (s) management function 550 may involve at least one procedure of inference data 506, model delivery 518, or inference output 520. In the inference data 506 procedure, the data collection function 570 may transmit inference data 506 to the inference client (s) management function 550, which is described above. At the other end of the communication, the inference client (s) management function 550 may receive inference data 506 from the data collection function 570.

[0305] In the model delivery 518 procedure, the inference function 565 may transmit a model (for example, a global model or sub-model of the global model) to the inference client (s) management function 550. At the other end of the communication, the inference client (s) management function 550 may receive the model (for example, the global model or sub-model) from the inference function 565, so the inference clients can use the global model or sub-model to get the inference results.

[0306] In the inference output 520 procedure, the inference client (s) management function 550 may send inference output 520 (i.e., inference results) to the inference function 565.

[0307] The inference function 565 may be an example of the sixth function 365 as illustrated in FIG. 3, and is a function that provides inference results (for example, the inference output 516) . The inference function 565 may also be responsible for performing actions according to inference results. For example, it may trigger or perform corresponding actions according to inference decision and it may trigger actions directed to other entities or to itself. The inference function 565 may also be responsible for data preparation based on inference data 506 delivered by the data collection function 570. Data preparation may include at least one of, for example, data pre-processing and cleaning, formatting, and transformation.

[0308] The inference function 565 may send inference output to management function 560 to monitor the performance of the AI / ML model.

[0309] The inference function 565 may also receive inference output (i.e., inference results) from the inference client (s) management function 550. By combining the results from multiple inference clients, the final inference results (for example, the inference output 516) may be obtained with a better accuracy as compared in a case where the inference is solely performed by the inference function 565 itself.

[0310] The model storage function 575 may be an example of the eighth function 375 as illustrated in FIG. 3, and is a function that store the AI / ML model (s) . The model storage 475 may be located within RAN (e.g. at BS and / or UE side) , or outside RAN (e.g. at a core network or the third party) . The model storage function 575 receives the AI / ML model from the model training  / fine-tuning function 555. The model may be a first trained model (i.e., an initially trained model) , or a re-trained / updated model.

[0311] The model storage function 575 may receive a model transfer request 526 from the management function 560, as mentioned above in connection with management function 560. If the model storage function 575 receives the model transfer request 526, the model storage function 575 may send the corresponding model to the inference function 565. For example, the model transfer request 526 may indicate (include / comprise) the requested model ID. Then, in response to the model transfer request 526, the model storage function 575 may send, to the inference function 565, the model corresponding to the requested model ID. Alternatively or in addition, the model transfer request 526 may indicate the AI functionality ID and / or AI performance requirement (e.g. AI accuracy, AI complexity, AI model size) . Then, in response to the model transfer request 526, the model storage function 575 may deliver a model satisfying the indicated AI functionality and / or the performance requirement to the inference function 565 for future use.

[0312] When it comes to physical entity of the AI functions, for an AI / ML function (i.e., the training client (s) management function 540, the monitoring client (s) management function 545, the inference client (s) management function 550, the model training  / fine-tuning function 555, the management function 560, the inference function 565, the data collection function 570 and the model storage function 575) illustrated in FIG. 5, it can be located at one or more of a UE, a BS, a core network, or the 3rd party. At the same time, for different AI / ML functions, it can be located at the same physical entity or different physical entities.

[0313] With the AI / ML functional framework 500 and the flowchart of operations performed in the AI / ML functional framework 500, an AI / ML functional framework (including the signaling interface among functions) can be defined to support AI / ML procedure for AI / ML as a service in the network. More specifically, by transferring a foundation model at the management function 560 to the model training function 555, then performing fine-tuning by the model training function 555 on the received foundation model, the resulted fine-tuned AI / ML model is more accurate than an updated AI / ML model obtained by re-training. The more accurate fine-tuned AI / ML model may bring about better monitoring performance and inference performance.

[0314] FIG. 6 illustrates a schematic diagram of an example AI / ML functional framework 600 and the flowchart of operations in the AI / ML functional framework 600 in accordance with some embodiments of the present disclosure. The AI / ML functional framework 600 as shown in FIG. 6 includes 8 parts, i.e., a training client (s) management function 640, a monitoring client (s) management function 645, an inference client (s) management function 650, a model training function 655, a management function 660, an inference function 665, a data collection function 670 and a model storage function 675, which may be an example of the first function 340, second function 345, third function 350, fourth function 355, fifth function 360, sixth function 365, seventh function 370 and eighth function 375 as illustrated in FIG. 3, respectively, and may be similar to the training client (s) management function 440, the monitoring client (s) management function 445, the inference client (s) management function 450, the model training function 455, the management function 460, the inference function 465, the data collection function 470 and the model storage function 475 as illustrated in FIG. 4 or the training client (s) management function 540, the monitoring client (s) management function 545, the inference client (s) management function 550, the model training function 555, the management function 560, the inference function 565, the data collection function 570 and the model storage function 575 as illustrated in FIG. 5, respectively.

[0315] The training data 602, monitoring data 604, inference data 606, model feedback 610, monitoring output 614, inference output 516, inference output 620, trained  / updated model 622, performance feedback 624, model transfer request 626, model selection / activation / deactivation / switching / fallback 628 and model transfer 630 as illustrated in FIG. 6 may have similar meaning as the training data 402, monitoring data 404, inference data 406, model feedback 410, monitoring output 414, inference output 416, inference output 420, trained  / updated model 422, performance feedback 424, model transfer request 426, model selection / activation / deactivation / switching / fallback 428 and model transfer 430 as illustrated in FIG. 4. The AI / ML functional framework 600 differs from the AI / ML functional framework 400 as shown in FIG. 4 mainly in that, in the AI / ML functional framework 600, D2D cooperation is introduced in client (s) management functions. Hereafter, the difference will be described, and the elements similar to those of FIG. 4 may refer to the corresponding description and thus may be omitted for simplicity.

[0316] The data collection function 670 may be an example of the seventh function 370 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that provides input data to training client (s) management function 640, monitoring client (s) management function 645, inference client (s) management function 650, model training function 655, management function 660 and inference function 665. Examples of input data may include measurements from UEs or different network entities, where the measurement maybe RF sensing measurement, non-RF sensing (LIDAR (Light Detection and Ranging) , camera, video, sensor, etc. ) measurement, reference signal measurement.

[0317] As illustrated in FIG. 6, the data collection function 670 transmits training data 602 to the training client (s)  management function 640, transmits monitoring data 604 to the monitoring client (s) management function 645 and transmits inference data 606 to the inference client (s) management function 650. The data collection function 670 may also transmit the training data 602 to the model training function 655, transmits the monitoring data 604 to the management function 660 and transmits the inference data 606 to the inference function 665.

[0318] Training data 602 as illustrated in FIG. 6 is data needed as input for the training client (s) management function 640. The training data 602 may also be input to the model training function 655. For example, training data 602 as used herein may be data for model training, and may include assistance information for model training.

[0319] Monitoring data 604 as illustrated in FIG. 6 is data needed as input for the monitoring client (s) management function 645. The monitoring data 604 may also be input to the management function 660.

[0320] Inference data 606 as illustrated in FIG. 6 is data needed as input for the inference client (s) management function 650. The inference data 606 may also be input to the inference function 665.

[0321] Model training function 655 may be an example of the fourth function 355 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that performs the AI / ML model training, validation, and testing which may generate model performance metrics as part of the model testing procedure. The model training function 655 may be also responsible for data preparation. Data preparation may include, for example, data pre-processing and cleaning, formatting, and transformation.

[0322] In addition, model training function 655 may be also responsible for model delivery to training client (s) management function 640. In distribute learning, multiple device may participate the learning procedure, and send the local trained model to an aggregation node, and the aggregation node aggregates received multiple local models to generate an updated model. One typical distributed learning is federated learning, where BS initializes the model, samples a group of UEs and group-cast parameters of the model to the selected UEs. Each UE initializes its local model using the received model parameters, and updates (trains) its local model using its own data. Then each UE reports parameters of the updated local model to the BS. The BS aggregates the updated parameters reported from UEs and updates the model. The aforementioned procedure is one iteration of AI training procedure. BS and UE may perform multiple iterations until finalize the model. So, interaction between model training function and other function may include at least one procedure of model delivery, model feedback 610, model aggregation or trained / updated model 622.

[0323] In the model delivery procedure, the model training function 655 sends a global model to selected training clients, so the training clients can use the global model to train its local model.

[0324] In the model feedback 610 procedure, the model training function 655 receives local models sent from training client (s) management function 640. The received local model may have the same or different model structure or model size as the global model.

[0325] The model aggregation procedure is an internal operation within the model training function 655. In the model aggregation procedure, the model training function 655 aggregates multiple received local models to generate an updated global model.

[0326] The trained / updated model 622 procedure is used to send, by the model training function 655, a trained AI / ML model (e.g. by distributed learning) to the model storage function 675 or to deliver an updated AI / ML model to the model storage function 675.

[0327] The model training function 655 may also perform client selection / activation / deactivation 634 procedure, in which the model training function 655 may send a client selection signaling to the training client (s) management function 640 to select one or more client to assist model training. Alternatively or in addition, the model training function 655 may send a client activation signaling to the training client (s) management function 640 to activate one or more clients to take part in the model training. Alternatively or in addition, the model training function 655 may send a client deactivation  signaling to the training client (s) management function 640 to deactivate one or more clients for the model training (in other words, the deactivated one or more clients can no longer take part in the model training unless once again activated by the model training function 655) .

[0328] Training client (s) management function 640 may be an example of the first function 340 as illustrated in FIG. 3, and is a function that performs training UE selection, training UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the training capability or have the large training dataset size, only partial devices are available for training. In addition, because those devices having poor channel quality or having power saving requirement, they will be deactivated for training.

[0329] Within the training client (s) management function 640, selected clients can be enabled for cooperative learning by sidelink. For example, one client may send its training data to another client for training at the another client. As another example, one client may send its trained local model to another client, and the another client may perform further training on the received local model.

[0330] The training client (s) management function 640 may also be responsible for indicating a training task or training functionality of an AI / ML model for a device. In other words, a device can train partial functionalities or partial parameters of a large model. For example, the large model may be the global model at the model training function 655. The training client (s) management function 640 may involve at least one procedure of training data, model delivery or model feedback. In the training data procedure, the training client (s) management function 640 receives the training data from the data collection function 670, as mentioned above in connection with the data collection function 670. In the model delivery procedure, as mentioned above in connection with the model training function 655, the training client (s) management function 640 receives a global model from the model training function 655, so the training clients can use the global model to train its local model. In the model feedback procedure, the training client (s) management function 640 sends local models to the model training function 655, as described above in connection with the model training function 655. The local model may have the same of different model structure or model size as the global model.

[0331] The monitoring client (s) management function 645 may be an example of the second function 345 as illustrated in FIG. 3, and is a function that performs monitoring UE selection, monitoring UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the AI / ML capability and / or power for monitoring, only partial devices are available for monitoring, which means only a part of devices (not all devices) are capable of monitoring.

[0332] Within the monitoring client (s) management function 645, selected clients can be enabled for cooperative monitoring by sidelink. For example, one client may send its monitoring data to another client for performance monitoring at the another client. As an another example, one client may send its monitoring results to another client, and the another client may combine its monitoring results and received monitoring results to get a final monitoring result.

[0333] The monitoring client (s) management function 645 may also be responsible for indicating a monitoring task or monitoring a functionality of an AI / ML model for a device. For example, a device can monitor partial functionalities or partial parameters of a large model. The large model may be the global model at the training function. The monitoring client (s) management function 645 may involve at least one function of monitoring data, model delivery or monitoring output. In the monitoring data procedure, the monitoring client (s) management function 645 receive monitoring data from the data collection function 670, which is described above in connection with the data collection function 670. In the model delivery procedure, the monitoring client (s) management function 645 receives a global model or sub-model of the global model from the management function 660, so the monitoring clients can use the global model or sub-model to monitor the performance. In the monitoring output procedure, the monitoring client (s) management function 645 sends monitoring results to the management function 660.

[0334] Management function 660 is an example of the fifth function 360 as illustrated in FIG. 3, and is a function that is responsible for performing model control to model training function 655 and model Inference function 665. The  management function 660 monitors the model output. If the model qualities are no longer applicable, the management function 660 may request the model training function 655 to re-train the model, and may indicate the model inference function 665 to switch the model currently used.

[0335] As for the model performance monitoring, the management function 660 may receive the monitoring data 604 (e.g. the ground truth data) from data collection function 670. Then the management function 660 may compare the AI / ML model output (for example, the inference output 616 from the inference function 665) and the ground truth data. In this way, the model performance can be evaluated.

[0336] The management function 660 may involve at least one procedure of inference output 616 from the inference function 665, model delivery or monitoring output 614 from the monitoring client (s) management function 645.

[0337] In the inference output 616 procedure from the inference function 665, the inference function 665 may transmit an inference output 616 to the management function 660, and at the other side of communication, the management function 660 may receive the inference output 616 of the inference function 665. The output may include the performance of the model inference.

[0338] In the model delivery procedure, the management function 660 may send a global model or sub-model of the global model to the monitoring client (s) management function 645.

[0339] In the monitoring output 614 procedure from the monitoring client (s) management function 645, the monitoring client (s) management function 645 may transmit a monitoring output 614 (which may be monitoring results) to the management function 660, and at the other side of communication, the management function 660 may receive the monitoring output 614 from the monitoring client (s) management function 645.

[0340] If certain information derived from the inference function 665 or information derived from the performance monitoring in the management function 660 is suitable for improvement of the AI / ML model trained in model training function 655, the management function 660 may send a performance feedback 624 to the model training function 655. More specifically, when the management function 660 observes that the performance of current AI / ML model is not good enough (for example, is below a pre-defined or pre-configured performance threshold) , the management function 660 may send current AI / ML performance to the model training function 655, including current AI / ML model output and its accuracy, etc. In addition, the management function 660 may also request the model training function 655 to retrain the model to obtain an updated AI / ML model (which may be transmitted by the model training function 655 to the model storage function 675 for storage) , and request the model storage 675 to get the updated AI / ML model.

[0341] The management function 660 may also involve AI / ML model selection / activation / deactivation / switching / fallback 628. For example, when the management function 660 observes that the performance of current AI / ML model is not good enough, the management function 660 may send a model switching signalling to the inference function 665 to switch the current model (the AI / ML model currently used) to another AI / ML model, or send a fallback signalling to indicate the inference function 665 to use a non-AI model. In some instances, when there are multiple candidate AI / ML models, the management function 665 can indicate the inference function 665 to use which AI / ML model, and activate or de-activate one or multiple candidate AI / ML models.

[0342] The management function 660 may send an AI / ML model transfer request 626 to the model storage function 675 to request an AI / ML model for the inference function 665. The model transfer request 626 can be an initial model transfer request for an initially trained AI / ML model or an updated model transfer request for an updated AI / ML model obtained by re-training an existing model.

[0343] The management function 660 may also perform client selection / activation / deactivation 636 procedure, in which the management function 660 may send a client selection signaling to the monitoring client (s) management function 645 to select one or more client to assist model monitoring. Alternatively or in addition, the management function 660 may send a  client activation signaling to the monitoring client (s) management function 645 to activate one or more clients to take part in the model monitoring. Alternatively or in addition, the management function 660 may send a client deactivation signaling to the monitoring client (s) management function 645 to deactivate one or more clients for the model monitoring (in other words, the deactivated one or more clients can no longer take part in the model monitoring unless once again activated by the management function 660) .

[0344] The inference client (s) management function 650 may be an example of the third function 350 as illustrated in FIG. 3, and is a function that performs inference UE selection, inference UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the AI capability and / or power for inference, only partial devices are available for inference, which means only a part of devices (not all devices) are capable of providing inference.

[0345] Within the inference client (s) management function 650, selected clients can be enabled for cooperative inference by sidelink. For example, one client may send its inference data to another client for inference at the another client. As another example, one client may send its trained local inference results to another client, and the another client may perform further inference based on the received inference results so as to get the final inference results.

[0346] The inference client (s) management function 650 may also be responsible for indicating an inference task or inference functionality of an AI / ML model for a device. For example, a device can inference partial functionalities or partial task. Another example is split inference, in which case a device performs inference on partial model and another device performs inference on remaining partial model, so by the two devices’ inference, the inference of the whole model can be completed.

[0347] The inference client (s) management function 650 may involve at least one procedure of inference data 606, model delivery, or inference output 620. In the inference data 606 procedure, the data collection function 670 may transmit inference data to the inference client (s) management function 650, which is described above. At the other end of the communication, the inference client (s) management function 650 may receive inference data from the data collection function 670.

[0348] In the model delivery procedure, the inference function 665 may transmit a model (for example, a global model or sub-model of the global model) to the inference client (s) management function 650. At the other end of the communication, the inference client (s) management function 650 may receive the model (for example, the global model or sub-model) from the inference function 665, so the inference clients can use the global model or sub-model to get the inference results.

[0349] In the inference output 620 procedure, the inference client (s) management function 650 may send inference output 620 (i.e., inference results) to the inference function 665.

[0350] The inference function 665 may be an example of the sixth function 365 as illustrated in FIG. 3, and is a function that provides inference results. The inference function 665 may also be responsible for performing actions according to inference results. For example, it may trigger or perform corresponding actions according to inference decision and it may trigger actions directed to other entities or to itself. The inference function 665 may also be responsible for data preparation based on inference data delivered by the data collection function 670. Data preparation may include at least one of, for example, data pre-processing and cleaning, formatting, and transformation.

[0351] The inference function 665 may send inference output 616 to management function 660 to monitor the performance of the AI / ML model.

[0352] The inference function 665 may also receive inference output 620 (i.e., inference results) from the inference client (s) management function 650. By combining the results from multiple inference clients, the final inference results (for example, the inference output 616) may be obtained with a better accuracy as compared in a case where the inference is solely performed by the inference function 665 itself.

[0353] The inference function 665 may also perform client selection / activation / deactivation 638 procedure, in which the  inference function 665 may send a client selection signaling to the inference client (s) management function 650 to select one or more client to assist inference task (s) . Alternatively or in addition, the inference function 665 may send a client activation signaling to the inference client (s) management function 650 to activate one or more clients to take part in the inference task (s) . Alternatively or in addition, the inference function 665 may send a client deactivation signaling to the inference client (s) management function 650 to deactivate one or more clients for the inference task (s) (in other words, the deactivated one or more clients can no longer take part in the inference task (s) unless once again activated by the inference function 665) .

[0354] The model storage function 675 may be an example of the eighth function 375 as illustrated in FIG. 3, and is a function that store the AI / ML model (s) . The model storage 675 may be located within RAN (e.g. at BS and / or UE side) , or outside RAN (e.g. at a core network or the third party) . The model storage function 675 receives the AI / ML model from the model training function 655. The model may be a first trained model (i.e., an initially trained model) , or a re-trained / updated model.

[0355] The model storage function 675 may receive a model transfer request 626 from the management function 660, as mentioned above in connection with management function 660. If the model storage function 675 receives the model transfer request 626, the model storage function 675 may send the corresponding model to the inference function 665. For example, the model transfer request 626 may indicate (include / comprise) the requested model ID. Then, in response to the model transfer request, the model storage function 675 may send, to the inference function 665, the model corresponding to the requested model ID. Alternatively or in addition, the model transfer request 626 may indicate the AI functionality ID and / or AI performance requirement (e.g. AI accuracy, AI complexity, AI model size) . Then, in response to the model transfer request 626, the model storage function 675 may deliver a model satisfying the indicated AI functionality and / or the performance requirement to the inference function 665 for future use.

[0356] When it comes to physical entity of the AI functions, for an AI / ML function (i.e., the training client (s) management function 640, the monitoring client (s) management function 645, the inference client (s) management function 650, the model training function 655, the management function 660, the inference function 665, the data collection function 670 and the model storage function 675) illustrated in FIG. 4, it can be located at one or more of a UE, a BS, a core network, or the 3rd party. At the same time, for different AI / ML functions, it can be located at the same physical entity or different physical entities.

[0357] With the AI / ML functional framework 600 and the flowchart of operations performed in the AI / ML functional framework 600, an AI / ML functional framework (including the signaling interface among functions) can be defined to support AI / ML procedure for AI / ML as a service in the network. Moreover, cooperative distributed learning  / inference by sidelink can be realized.

[0358] FIG. 7 illustrates a schematic diagram of an example AI / ML functional framework 700 and the flowchart of operations in the AI / ML functional framework 700 in accordance with some embodiments of the present disclosure. The AI / ML functional framework 700 as shown in FIG. 7 includes 8 parts, i.e., a training client (s) management function 740, a monitoring client (s) management function 745, an inference client (s) management function 750, a model training function 755, a management function 760, an inference function 765, a data collection function 770 and a model storage function 775, which may be an example of the first function 340, second function 345, third function 350, fourth function 355, fifth function 360, sixth function 365, seventh function 370 and eighth function 375 as illustrated in FIG. 3, respectively, and may be similar to the training client (s) management function 440, the monitoring client (s) management function 445, the inference client (s) management function 450, the model training function 455, the management function 460, the inference function 465, the data collection function 470 and the model storage function 475 as illustrated in FIG. 4, or the training client (s) management function 540, the monitoring client (s) management function 545, the inference client (s) management function 550, the model training function 555, the management function 560, the inference function 565, the data collection function 570 and the model storage function 575 as illustrated in FIG. 5, or the training client (s) management function 640,  the monitoring client (s) management function 645, the inference client (s) management function 650, the model training function 655, the management function 660, the inference function 665, the data collection function 670 and the model storage function 675 as illustrated in FIG. 6, respectively.

[0359] The training data 702, monitoring data 704, inference data 706, inference output 716, trained  / updated model 722, performance feedback 724, model transfer request 726, model selection / activation / deactivation / switching / fallback 728 and model transfer 730 as illustrated in FIG. 7 may have similar meaning as the training data 402, monitoring data 404, inference data 406, inference output 416, trained  / updated model 422, performance feedback 424, model transfer request 426, model selection / activation / deactivation / switching / fallback 428 and model transfer 430 as illustrated in FIG. 4. The AI / ML functional framework 700 differs from the AI / ML functional framework 400 as shown in FIG. 4 mainly in that, in the AI / ML functional framework 700, aggregation nodes is introduced in client (s) management functions. Hereafter, the difference will be described, and the elements similar to those of FIG. 4 may refer to the corresponding description and thus may be omitted for simplicity.

[0360] The data collection function 770 may be an example of the seventh function 370 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that provides input data to training client (s) management function 740, monitoring client (s) management function 745, inference client (s) management function 750, model training function 755, management function 760 and inference function 765. Examples of input data may include measurements from UEs or different network entities, where the measurement maybe RF sensing measurement, non-RF sensing (LIDAR (Light Detection and Ranging) , camera, video, sensor, etc. ) measurement, reference signal measurement.

[0361] As illustrated in FIG. 7, the data collection function 770 transmits training data 702 to the training client (s) management function 740, transmits monitoring data 704 to the monitoring client (s) management function 745 and transmits inference data 706 to the inference client (s) management function 750. The data collection function 770 may also transmit the training data 702 to the model training function 755, transmits the monitoring data 704 to the management function 760 and transmits the inference data 706 to the inference function 765.

[0362] Training data 702 as illustrated in FIG. 7 is data needed as input for the training client (s) management function 740. The training data 702 may also be input to the model training function 755. For example, training data 702 as used herein may be data for model training, and may include assistance information.

[0363] Monitoring data 704 as illustrated in FIG. 7 is data needed as input for the monitoring client (s) management function 745. The monitoring data 704 may also be input to the management function 760.

[0364] Inference data 706 as illustrated in FIG. 7 is data needed as input for the inference client (s) management function 750. The inference data 706 may also be input to the inference function 765.

[0365] Model training function 755 may be an example of the fourth function 355 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that performs the AI / ML model training, validation, and testing which may generate model performance metrics as part of the model testing procedure. The model training function 755 may be also responsible for data preparation. Data preparation may include, for example, data pre-processing and cleaning, formatting, and transformation.

[0366] In addition, model training function 755 may be also responsible for model delivery to training client (s) management function 740. Here, the training client (s) management function 740 is shown to be comprised by training client (s) management sub-function 740-1 and training client (s) management sub-function 740-2. The training client (s) management function 740 may comprise more than two sub-functions, and may also comprise only one sub-function. The training client (s) management sub-functions are collectively referred to as the training client (s) management function 740. In distribute learning, multiple device may participate the learning procedure, and send the local trained model to an aggregation node, and the aggregation node aggregates received multiple local models to generate an updated model. One typical distributed learning is federated learning, where BS initializes the model, samples a group of UEs and group-cast  parameters of the model to the selected UEs. Each UE initializes its local model using the received model parameters, and updates (trains) its local model using its own data. Then each UE reports the updated local model’s parameters to the BS. The BS aggregates the updated parameters reported from UEs and updates the model. The aforementioned procedure is one iteration of AI training procedure. BS and UE may perform multiple iterations until finalize the model. Therefore, interaction between model training function and other function may include at least one procedure of model delivery, model feedback, model aggregation or trained / updated model.

[0367] In the model delivery procedure, the model training function 755 sends a global model to selected training clients, so the training clients can use the global model to train its local model.

[0368] In the model feedback procedure, the model training function 755 receives local models sent from training client (s) management function 740. The received local model may have the same of different model structure or model size as the global model.

[0369] The model aggregation procedure is an internal operation within the model training function 755. In the model aggregation procedure, the model training function 755 aggregates multiple received local models and generated an updated global model.

[0370] The trained / updated model 722 procedure is used to send, by the model training function 755, a trained AI / ML model (e.g. by distributed learning) to the model storage function 775 or to deliver an updated AI / ML model to the model storage function 775.

[0371] The model training function 755 may also perform client selection / activation / deactivation 734 procedure, in which the model training function 755 may send a client selection signaling to the training client (s) management function 740 to select one or more client to assist model training. Alternatively or in addition, the model training function 755 may send a client activation signaling to the training client (s) management function 740 to activate one or more clients to take part in the model training. Alternatively or in addition, the model training function 755 may send a client deactivation signaling to the training client (s) management function 740 to deactivate one or more clients for the model training (in other words, the deactivated one or more clients can no longer take part in the model training unless once again activated by the model training function 755) .

[0372] Training client (s) management function 740 may be an example of the first function 340 as illustrated in FIG. 3, and is a function that performs training UE selection, training UE activation and deactivation. In distributed learning by multiple devices, since not all devices have the training capability or have the large training dataset size, only partial devices are available for training. In addition, because those devices having poor channel quality or having power saving requirement, they will be deactivated for training.

[0373] Within the training client (s) management function 740, there are two types of clients (or called nodes) , i.e., basic AI / ML node (basic node) and aggregation AI / ML node (Aggregation Node or Agg. node) . A basic node may receive one or multiple common model (s) from other nodes, and train its own personalized model (called local model) with its own AI / ML algorithm, and transmit the local model to another node (s) . An aggregation AI / ML node may receive zero or one or multiple local model (s) from other nodes, receive one or multiple common model (s) from other nodes, aggregate the local model (s) and / or common model (s) to generate an update common model, and transmit the common model to another node (s) (e.g. another aggregation node) .

[0374] For the basic node, it has its own specific AI / ML model or neural network (NN) structure. After training, it may send its local model obtained through training to an aggregation node. For the aggregation node, it is responsible for model aggregation for the received local models to obtain an updated common model. After training, it may send the updated common model to the next aggregation node.

[0375] The training client (s) management function 740 may also be responsible for indicating a training task or training  functionality of an AI / ML model for a device. In other words, a device can train partial functionalities or partial parameters of a large model. For example, the large model may be the global model at the model training function 755. The training client (s) management function 740 may involve at least one procedure of training data, model delivery or model feedback. In the training data procedure, the training client (s) management function 740 receives the training data from the data collection function 770, as mentioned above in connection with the data collection function 770. In the model delivery procedure, as mentioned above in connection with the model training function 755, the training client (s) management function 740 receives a global model from the model training function 755, so the training clients can use the global model to train its local model. In the model feedback procedure, the training client (s) management function 740 sends local models to the model training function 755, as described above in connection with the model training function 755. The local model may have the same of different model structure or model size as the global model.

[0376] The monitoring client (s) management function 745 may be an example of the second function 345 as illustrated in FIG. 3, and is a function that performs monitoring UE selection, monitoring UE activation and deactivation. Here, the monitoring client (s) management function 745 is shown to be comprised by monitoring client (s) management sub-function 745-1 and monitoring client (s) management sub-function 745-2. The monitoring client (s) management function 745 may comprise more than two sub-functions, and may also comprise only one sub-function. The monitoring client (s) management sub-functions are collectively referred to as the monitoring client (s) management function 745. In distributed learning by multiple devices, since not all devices have the AI / ML capability and / or power for monitoring, only partial devices are available for monitoring, which means only a part of devices (not all devices) are capable of monitoring.

[0377] Within the monitoring client (s) management function 745, the basic node may monitor its model performance, and may send the monitoring results to an aggregation node. The aggregation node may be responsible for aggregating the monitoring results from multiple basic nodes to obtain aggregated results, and after aggregation, the aggregation node may send the aggregated results to the next node, which may be another aggregation node.

[0378] The monitoring client (s) management function 745 may also be responsible for indicating a monitoring task or monitoring a functionality of an AI / ML model for a device. For example, a device can monitor partial functionalities or partial parameters of a large model. The large model may be the global model at the training function. The monitoring client (s) management function 745 may involve at least one function of monitoring data, model delivery or monitoring output. In the monitoring data procedure, the monitoring client (s) management function 745 receive monitoring data from the data collection function 770, which is described above in connection with the data collection function 770. In the model delivery procedure, the monitoring client (s) management function 745 receives a global model or sub-model of the global model from the management function 760, so the monitoring clients can use the global model or sub-model to monitor the performance. In the monitoring output procedure, the monitoring client (s) management function 745 sends monitoring results to the management function 760.

[0379] Management function 760 is an example of the fifth function 360 as illustrated in FIG. 3, and is a function that is responsible for performing model control to model training function 755 and model Inference function 765. The management function 760 monitors the model output. If the model qualities are no longer applicable, the management function 760 may request the model training function 755 to re-train the model, and may indicate the model inference function 765 to switch the model currently used.

[0380] As for the model performance monitoring, the management function 760 may receive the monitoring data 704 (e.g. the ground truth data) from data collection function 770. Then the management function 760 may compare the AI / ML model output (for example, the inference output 716 from the inference function 765) and the ground truth data. In this way, the model performance can be evaluated.

[0381] Then the management function 760 may involve at least one procedure of inference output 716 from the inference function 765, model delivery or monitoring output from the monitoring client (s) management function 745.

[0382] In the inference output 716 procedure from the inference function 765, the inference function 765 may transmit an inference output 716 to the management function 760, and at the other side of communication, the management function 760 may receive the inference output 716 of the inference function 765. The output may include the performance of the model inference.

[0383] In the model delivery procedure, the management function 760 may send a global model or sub-model of the global model to the monitoring client (s) management function 745.

[0384] In the monitoring output procedure from the monitoring client (s) management function 745, the monitoring client (s) management function 745 may transmit a monitoring output (which may be monitoring results) to the management function 760, and at the other side of communication, the management function 760 may receive the monitoring output from the monitoring client (s) management function 745.

[0385] If certain information derived from the inference function 765 or information derived from the performance monitoring in the management function 760 is suitable for improvement of the AI / ML model trained in model training function 755, the management function 760 may send a performance feedback 724 to the model training function 755. More specifically, when the management function 760 observes that the performance of current AI / ML model is not good enough (for example, is below a pre-defined or pre-configured performance threshold) , the management function 760 may send current AI / ML performance to the model training function 755, including current AI / ML model output and its accuracy, etc. In addition, the management function 760 may also request the model training function 755 to retrain the model to obtain an updated AI / ML model (which may be transmitted by the model training function 755 to the model storage function 775 for storage) , and request the model storage 775 to get the updated AI / ML model.

[0386] The management function 760 may also involve AI / ML model selection / activation / deactivation / switching / fallback 728. For example, when the management function 760 observes that the performance of current AI / ML model is not good enough, the management function 760 may send a model switching signalling to the inference function 765 to switch the current model (the AI / ML model currently used) to another AI / ML model, or send a fallback signalling to indicate the inference function 765 to use a non-AI model. In some instances, when there are multiple candidate AI / ML models, the management function 765 can indicate the inference function 765 to use which AI / ML model, and activate or de-activate one or multiple candidate AI / ML models.

[0387] The management function 760 may send an AI / ML model transfer request 726 to the model storage function 775 to request an AI / ML model for the inference function 765. The model transfer request 726 can be an initial model transfer request for an initially trained AI / ML model or an updated model transfer request for an updated AI / ML model obtained by re-training an existing model.

[0388] The management function 760 may also perform client selection / activation / deactivation procedure, in which the management function 760 may send a client selection signaling to the monitoring client (s) management function 745 to select one or more client to assist model monitoring. Alternatively or in addition, the management function 760 may send a client activation signaling to the monitoring client (s) management function 745 to activate one or more clients to take part in the model monitoring. Alternatively or in addition, the management function 760 may send a client deactivation signaling to the monitoring client (s) management function 745 to deactivate one or more clients for the model monitoring (in other words, the deactivated one or more clients can no longer take part in the model monitoring unless once again activated by the management function 760) .

[0389] The inference client (s) management function 750 may be an example of the third function 350 as illustrated in FIG. 3, and is a function that performs inference UE selection, inference UE activation and deactivation. Here, the inference client (s) management function 750 is shown to be comprised by inference client (s) management sub-function 750-1 and inference client (s) management sub-function 750-2. The inference client (s) management function 750 may comprise more than two sub-functions, and may also comprise only one sub-function. The inference client (s) management sub-functions  are collectively referred to as the inference client (s) management function 750. In distributed learning by multiple devices, since not all devices have the AI capability and / or power for inference, only partial devices are available for inference, which means only a part of devices (not all devices) are capable of providing inference.

[0390] Within the inference client (s) management function 750, the basic node may perform model inference to obtain inference results and then send the inference results to an aggregation node. The aggregation node may be responsible for aggregating the inference results from multiple basic nodes to obtain aggregated inference results, and after aggregation, the aggregation node may send the aggregated inference results to the next node, which may be another aggregation node.

[0391] The inference client (s) management function 750 may also be responsible for indicating an inference task or inference functionality of an AI / ML model for a device. For example, a device can inference partial functionalities or partial task. Another example is split inference, in which case a device performs inference on partial model and another device performs inference on remaining partial model, so by the two devices’ inference, the inference of the whole model can be completed.

[0392] The inference client (s) management function 750 may involve at least one procedure of inference data 706, model delivery, or inference output. In the inference data 706 procedure, the data collection function 770 may transmit inference data 706 to the inference client (s) management function 750, which is described above. At the other end of the communication, the inference client (s) management function 750 may receive inference data 706 from the data collection function 770.

[0393] In the model delivery procedure, the inference function 765 may transmit a model (for example, a global model or sub-model of the global model) to the inference client (s) management function 750. At the other end of the communication, the inference client (s) management function 750 may receive the model (for example, the global model or sub-model) from the inference function 765, so the inference clients can use the global model or sub-model to get the inference results.

[0394] In the inference output procedure, the inference client (s) management function 750 may send inference results (i.e., inference outputs) to the inference function 765.

[0395] The inference function 765 may be an example of the sixth function 365 as illustrated in FIG. 3, and is a function that provides inference output (i.e., inference results) 716. The inference function 765 may also be responsible for performing actions according to inference results. For example, it may trigger or perform corresponding actions according to inference decision and it may trigger actions directed to other entities or to itself. The inference function 765 may also be responsible for data preparation based on inference data delivered by the data collection function 770. Data preparation may include at least one of, for example, data pre-processing and cleaning, formatting, and transformation.

[0396] The inference function 765 may send inference output 716 to management function 760 to assist the management function 760 to monitor the performance of the AI / ML model.

[0397] The inference function 765 may also receive inference output (i.e., inference results) 716 from the inference client (s) management function 750. By combining the results from multiple inference clients, the final inference results (for example, the inference output 716) may be obtained with a better accuracy as compared in a case where the inference is solely performed by the inference function 765 itself.

[0398] The inference function 765 may also perform client selection / activation / deactivation procedure, in which the inference function 765 may send a client selection signaling to the inference client (s) management function 750 to select one or more client to assist inference task (s) . Alternatively or in addition, the inference function 765 may send a client activation signaling to the inference client (s) management function 750 to activate one or more clients to take part in the inference task (s) . Alternatively or in addition, the inference function 765 may send a client deactivation signaling to the inference client (s) management function 750 to deactivate one or more clients for the inference task (s) (in other words, the deactivated one or more clients can no longer take part in the inference task (s) unless once again activated by the inference function 765) .

[0399] The model storage function 775 may be an example of the eighth function 375 as illustrated in FIG. 3, and is a function that store the AI / ML model (s) . The model storage 775 may be located within RAN (e.g. at BS and / or UE side) , or outside RAN (e.g. at a core network or the third party) . The model storage function 775 receives the AI / ML model from the model training function 755. The model may be a first trained model (i.e., an initially trained model) , or a re-trained / updated model.

[0400] The model storage function 775 may receive a model transfer request 726 from the management function 760, as mentioned above in connection with management function 760. If the model storage function 775 receives the model transfer request 726, the model storage function 775 may send the corresponding model to the inference function 765. For example, the model transfer request 726 may indicate (include / comprise) the requested model ID. Then, in response to the model transfer request 726, the model storage function 775 may send, to the inference function 765, the model corresponding to the requested model ID. Alternatively or in addition, the model transfer request 726 may indicate the AI functionality ID and / or AI performance requirement (e.g. AI accuracy, AI complexity, AI model size) . Then, in response to the model transfer request, the model storage function 775 may deliver a model satisfying the indicated AI functionality and / or the performance requirement to the inference function 765 for future use.

[0401] When it comes to physical entity of the AI functions, for an AI / ML function (i.e., the training client (s) management function 740, the monitoring client (s) management function 745, the inference client (s) management function 750, the model training function 755, the management function 760, the inference function 765, the data collection function 770 and the model storage function 775) illustrated in FIG. 7, it can be located at one or more of a UE, a BS, a core network, or the 3rd party. At the same time, for different AI / ML functions, it can be located at the same physical entity or different physical entities.

[0402] With the AI / ML functional framework 700 and the flowchart of operations performed in the AI / ML functional framework 700, an AI / ML functional framework (including the signaling interface among functions) can be defined to support AI / ML procedure for AI / ML as a service in the network. At the same time, clients can be organized in hierarchy (clients can be organized more efficiently, for example, according to their capabilities) .

[0403] FIG. 8 illustrates a schematic diagram of an example AI / ML functional framework 800 and the flowchart of operations in the AI / ML functional framework 800 in accordance with some embodiments of the present disclosure. The AI / ML functional framework 800 as shown in FIG. 8 includes 7 parts, i.e., a model training function 855, a management function 860, an inference function 865, a model storage function 875, an anchor management function 880, an anchor data collection function 885 and a non-anchor data collection function 890, among which the model training function 855, management function 860, inference function 865 and model storage function 875 may be an example of the fourth function 355, fifth function 360, sixth function 365 and eighth function 375 as illustrated in FIG. 3, respectively, and may be similar to the model training function 455, management function 460, inference function 465 and model storage function 475 as illustrated in FIG. 4, or the model training function 555, management function 560, inference function 565 and model storage function 575 as illustrated in FIG. 5, or the model training function 655, management function 660, inference function 665 and model storage function 675 as illustrated in FIG. 6, or the model training function 755, management function 760, inference function 765 and model storage function 775 as illustrated in FIG. 7, respectively.

[0404] It should be noted that though there is no training client (s) management function, monitoring client (s) management function or inference client (s) management function corresponding to the first function 340, second function 345 or third function 350 as illustrated in FIG. 3, like the training client (s) management function 440, monitoring client (s) management function 445 or inference client (s) management function 450 as illustrated in FIG. 4 (or the training client (s) management function 540, monitoring client (s) management function 545 or inference client (s) management function 550 as illustrated in FIG. 5, or the training client (s) management function 640, monitoring client (s) management function 645 or inference client (s) management function 650 as illustrated in FIG. 6 or the training client (s) management function 740, monitoring  client (s) management function 745 or inference client (s) management function 750 as illustrated in FIG. 7 may also be incorporated in the AI / ML functional framework 800) is shown in FIG. 8, the training client (s) management function, monitoring client (s) management function and inference client (s) management function like the training client (s) management function 440, monitoring client (s) management function 445 or inference client (s) management function 450 as illustrated in FIG. 4 may also be incorporated in the AI / ML functional framework 800. The inference output 816, trained  / updated model 822, performance feedback 824, model transfer request 826, model selection / activation / deactivation / switching / fallback 828 and model transfer 830 as illustrated in FIG. 8 may have similar meaning as the inference output 416, trained  / updated model 422, performance feedback 424, model transfer request 426, model selection / activation / deactivation / switching / fallback 428 and model transfer 430 as illustrated in FIG. 4. Hereafter, the difference will be described, and the elements similar to those of FIG. 4 may refer to the corresponding description and thus may be omitted for simplicity.

[0405] The anchor management function 880 is a function that is responsible for performing control to anchors and non-anchors. The anchor management function 880 can configure which node is the anchor, and indicates an anchor to perform data collection with a corresponding data type for the data to be collected by the anchor. In addition, the anchor management function 880 may also indicate non-anchor to perform data collection and corresponding collected data type.

[0406] An anchor may be a node which can report ground truth data to other functions. For example, the anchor may be deployed by the network operator at a known location, and the anchor may perform measurement to collect data and report the collected data to the network, including the measurement data and ground truth data. For example, the ground truth data may include label data information for an AI model.

[0407] The anchor data collection function 885 may be a function that provides input data (for example, ground truth data 832 as indicated in FIG. 8) to the model training function 855, the management function 860 and the model Inference function 865. (In case the training client (s) management function, monitoring client (s) management function and inference client (s) management function are incorporated in the AI / ML functional framework 800, the anchor data collection function 885 may also provide input data to the training client (s) management function, monitoring client (s) management function and inference client (s) management function. ) For the input data, it includes ground truth information. Ground truth refers to the true answer to a specific problem or question. For example, for channel prediction by AI, the ground truth is the exact channel information. Examples of input data may include measurements from UEs or different network entities, where the measurement may be RF sensing measurement data, non-RF sensing (LIDAR (Light Detection and Ranging) , camera, video, sensor, etc. ) measurement data and / or non-sensing data.

[0408] As another example, an anchor may be a passive object. For example, an anchor may be an object with known information such as shape, size, orientation, speed, location, distances or relative motion between objects. Such anchor information can be indicated from a base station to a UE for example, in which case the UE can perform sensing measurement and compare its sensing results with the anchor information, so as to calibrate its sensing results. In this case, the anchor data collection function 885 may be a function that receives the anchor information of these passive anchors, for example, to be used by the model training function 855 and / or management function 860 and / or inference function 865 to process other data (e.g., data calibration) . As a specific example, the model training function 855 may use the anchor information to perform data preparation. The management function 860 may use the anchor information to perform model performance monitoring. For example, if a shape of an object obtained based on the inference output 816 from the inference function 865 deviates from the shape of the object as indicated in the anchor information, the management function may be aware that the model performance degrades, and then transmits a performance feedback and / or retraining request 824 to the model training function 855 to, for example, re-train (and update) the model for better model performance. The inference function 865 may also use the anchor information, for example, to perform data preparation and / or self-check of its inference results. For example, the inference function 865 may check whether its inference results is precise enough using the anchor information, for example, by comparing an object shape derived from its inference results and the actual object shape as  indicated in the anchor information to confirm whether the difference between the two is within a pre-defined or pre-configured or required threshold.

[0409] Non-anchor Data Collection is a function that provides input data (for example, data 834 as indicated in FIG. 8) to Model Training, Model Management, Model Inference functions. For the input data, it does not include the ground truth information. Examples of input data may include measurements from UEs or different network entities, where the measurement maybe RF sensing measurement, non-RF sensing (LIDAR (Light Detection and Ranging) , camera, video, sensor, etc. ) measurement and non-sensing data.

[0410] Training data may be needed as input for the model training function 855. In other words, training data is data for model training. Training data may include assistance information. As illustrated in FIG. 8, training data may come from the anchor data collection function 885 and / or the non-anchor data collection function 890. Put it another way, the anchor data collection function 885 may send part of its collected anchor data (for example, a part of its collected anchor data which is suitable for model training) to the model training function 855 as the training data. Alternatively or in addition, the non-anchor data collection function 890 may send part of its collected non-anchor data (for example, a part of its collected non-anchor data which is suitable for model training) to the model training function 855 as the training data.

[0411] Monitoring data may be needed as input for the management function 860. As illustrated in FIG. 8, monitoring data may come from the anchor data collection function 885 and / or the non-anchor data collection function 890. Put it another way, the anchor data collection function 885 may send part of its collected anchor data (for example, a part of its collected anchor data which is suitable for management) to the model training function 855 as the monitoring data. Alternatively or in addition, the non-anchor data collection function 890 may send part of its collected non-anchor data (for example, a part of its collected non-anchor data which is suitable for management) to the model training function 855 as the monitoring data.

[0412] Inference data may be needed as input for the inference function 865. As illustrated in FIG. 8, inference data may come from the anchor data collection function 885 and / or the non-anchor data collection function 890. Put it another way, the anchor data collection function 885 may send part of its collected anchor data (for example, a part of its collected anchor data which is suitable for performing model inference) to the model training function 855 as the inference data. Alternatively or in addition, the non-anchor data collection function 890 may send part of its collected non-anchor data (for example, a part of its collected non-anchor data which is suitable for performing model inference) to the model training function 855 as the inference data.

[0413] Model training function 855 may be an example of the fourth function 355 in the AI / ML functional framework 300 as illustrated in FIG. 3, and is a function that performs the AI / ML model training, validation, and testing which may generate model performance metrics as part of the model testing procedure. The model training function 855 may be also responsible for data preparation. Data preparation may include, for example, data pre-processing and cleaning, formatting, and transformation.

[0414] As mentioned above, the model training function 855 may receive training data from the anchor data collection function 885 and / or the non-anchor data collection function 890. The model training function 855 may perform model training using the training data to obtain a trained AI / ML model (in case the model training is an initial model training) or an updated AI / ML model (in case the model training is not initial model training but re-training on an already trained but exhibiting a degraded performance) 822. Then, the model training function 855 may send the trained AI / ML model (e.g. by distributed learning) to the model storage function 875 or to deliver the updated AI / ML model to the model storage function 875.

[0415] Management function 860 is an example of the fifth function 360 as illustrated in FIG. 3, and is a function that is responsible for performing control on model training function 855 and model inference function 865. The management function 860 monitors the model output. If the model qualities are no longer applicable, the management function 860 may  request the model training function 855 to re-train the model to obtain an updated model and deliver the updated model to the model storage function 875. The management function 860 may also indicate the model storage function 875 to transfer (send) the updated model to the inference function 865 (indicated by model transfer 830 in FIG. 8) , and indicate the model inference function 865 to switch the model currently used, for example, to the updated model for future inference tasks.

[0416] As for the model performance monitoring, the management function 860 may receive the monitor data (e.g. the ground truth data) from data collection function (here, the anchor data collection function 885 and / or the non-anchor data collection function 890) . Then the management function 860 may compare the AI / ML model output and the ground truth data. In this way, the model performance can be evaluated.

[0417] The inference function 865 may transmit an inference output 816 to the management function 860, and at the other side of communication, the management function 860 may receive the inference output 816 of the inference function 865. The output may include the performance of the model inference.

[0418] If certain information derived from the inference function 865 or information derived from the performance monitoring in the management function 860 is suitable for improvement of the AI / ML model trained in model training function 455, the management function 860 may send a performance feedback 824 to the model training function 855. More specifically, when the management function 860 observes that the performance of current AI / ML model is not good enough (for example, is below a pre-defined or pre-configured performance threshold) , the management function 860 may send current AI / ML performance to the model training function 855, including current AI / ML model output and its accuracy, etc. In addition, the management function 860 may also request the model training function 855 to retrain the model to obtain an updated AI / ML model (which may be transmitted by the model training function 855 to the model storage function 875 for storage) , and request the model storage 875 to get the updated AI / ML model.

[0419] The management function 860 may also involve AI / ML model selection / activation / deactivation / switching / fallback 828. For example, when the management function 860 observes that the performance of current AI / ML model is not good enough, the management function 860 may send a model switching signalling to the inference function 865 to switch the current model (the AI / ML model currently used) to another AI / ML model (for example, the updated AI / ML model) , or send a fallback signalling to indicate the inference function 865 to use a non-AI model. In some instances, when there are multiple candidate AI / ML models, the management function 865 can indicate the inference function 865 to use which AI / ML model, and activate or de-activate one or multiple candidate AI / ML models.

[0420] The management function 860 may send an AI / ML model transfer request 826 to the model storage function 875 to request an AI / ML model for the inference function 865. The model transfer request 826 can be an initial model transfer request for an initially trained AI / ML model or an updated model transfer request for an updated AI / ML model obtained by re-training an existing AI / ML model.

[0421] The inference function 865 may be an example of the sixth function 365 as illustrated in FIG. 3, and is a function that provides inference results. The inference function 865 may also be responsible for performing actions according to inference results. For example, it may trigger or perform corresponding actions according to inference decision and it may trigger actions directed to other entities or to itself. The inference function 865 may also be responsible for data preparation based on inference data delivered by the anchor data collection function 885 and / or the non-anchor data collection function 890. Data preparation may include at least one of, for example, data pre-processing and cleaning, formatting, and transformation.

[0422] The inference function 865 may send inference output 816 to management function 860 to monitor the performance of the AI / ML model.

[0423] The model storage function 875 may be an example of the eighth function 375 as illustrated in FIG. 3, and is a function that store the AI / ML model (s) . The model storage 875 may be located within RAN (e.g. at BS and / or UE side) , or outside RAN (e.g. at a core network or the third party) . The model storage function 875 receives the AI / ML model from the  model training function 855. The model may be a first trained model (i.e., an initially trained model) , or a re-trained / updated model.

[0424] The model storage function 875 may receive a model transfer request 826 from the management function 860, as mentioned above in connection with management function 860. If the model storage function 875 receives the model transfer request 826, the model storage function 875 may send the corresponding model to the inference function 865. For example, the model transfer request 826 may indicate (include / comprise) the requested model ID. Then, in response to the model transfer request 826, the model storage function 875 may send, to the inference function 865, the model corresponding to the requested model ID. Alternatively or in addition, the model transfer request 826 may indicate the AI functionality ID and / or AI performance requirement (e.g. AI accuracy, AI complexity, AI model size) . Then, in response to the model transfer request 826, the model storage function 875 may deliver a model satisfying the indicated AI functionality and / or the performance requirement to the inference function 865 for future use.

[0425] When it comes to physical entity of the AI functions, for an AI / ML function (i.e., the model training function 455, the management function 460, the inference function 465, the model storage function 475, the anchor management function 880, the anchor data collection function 885 or the non-anchor data collection function 894) illustrated in FIG. 8, it can be located at one or more of a UE, a BS, a core network, or the 3rd party. At the same time, for different AI / ML functions, it can be located at the same physical entity or different physical entities.

[0426] With the AI / ML functional framework 800 and the flowchart of operations performed in the AI / ML functional framework 800, an AI / ML functional framework (including the signaling interface among functions) can be defined to support AI / ML procedure for AI / ML as a service in the network. More specifically, by adding anchor management function 880, data can be collected by anchor (s) and non-anchor (s) more efficiently and organized better and can be managed with high efficiency. Anchor (s) can be deployed by an operator.

[0427] FIG. 9 illustrates a block diagram of an electronic device (ED) 900 that may be used for implementing the devices and methods disclosed herein. In some embodiments, the electronic device 900 may be an element of communications network infrastructure, such as a base station (for example, a NodeB, an evolved Node B (eNodeB, or eNB) , a next generation NodeB (sometimes referred to as a gNodeB or gNB) , a home subscriber server (HSS) , a gateway (GW) such as a packet gateway (PGW) or a serving gateway (SGW) or various other nodes or functions within a core network (CN) or a Public Land Mobility Network (PLMN) . In other embodiments, the electronic device may be a device that connects to the network infrastructure over a radio interface, such as a mobile phone, smart phone or other such device that may be classified as a User Equipment (UE) . In some embodiments, ED 900 may be a Machine Type Communications (MTC) device (also referred to as a machine-to-machine (M2M) device) , or another such device that may be categorized as a UE despite not providing a direct service to a user. In some embodiments, ED 900 may be a road side unit (RSU) , a vehicle UE (V-UE) , pedestrian UE (P-UE) or an infrastructure UE (I-UE) . In some scenarios, an ED may also be referred to as a mobile device, a term intended to reflect devices that connect to mobile network, regardless of whether the device itself is designed for, or capable of, mobility. Specific devices may utilize all of the components shown or only a subset of the components, and levels of integration may vary from device to device. Furthermore, a device may contain multiple instances of a component, such as multiple processors, memories, transmitters, receivers, etc.

[0428] The electronic device 900 typically includes a processor 902, such as a Central Processing Unit (CPU) , and may further include specialized processors such as a Graphics Processing Unit (GPU) or other such processor, a memory 904, a network interface 906 and a bus 908 to connect the components of ED 900. ED 900 may optionally also include components such as a mass storage device 910, a video adapter 912, and an I / O interface 916 (shown in dashed lines) .

[0429] The memory 904 may comprise any type of non-transitory system memory, readable by the processor 902, such as static random access memory (SRAM) , dynamic random access memory (DRAM) , synchronous DRAM (SDRAM) , read-only memory (ROM) , or a combination thereof. In an embodiment, the memory 904 may include more than one type of  memory, such as ROM for use at boot-up, and DRAM for program and data storage for use while executing programs. The bus 908 may be one or more of any type of several bus architectures including a memory bus or memory controller, a peripheral bus, or a video bus.

[0430] The electronic device 900 may also include one or more network interfaces 906, which may include at least one of a wired network interface and a wireless network interface. As illustrated in FIG. X, network interface 906 may include a wired network interface to connect to a network 922, and also may include a radio access network interface 920 for connecting to other devices over a radio link. When ED 900 is a network infrastructure element, the radio access network interface 920 may be omitted for nodes or functions acting as elements of the PLMN other than those at the radio edge (e.g., an eNB) . When ED 900 is infrastructure at the radio edge of a network, both wired and wireless network interfaces may be included. When ED 900 is a wirelessly connected device, such as a User Equipment, radio access network interface 920 may be present and it may be supplemented by other wireless interfaces such as WiFi network interfaces. The network interfaces 906 allow the electronic device 900 to communicate with remote entities such as those connected to network 922.

[0431] The mass storage 910 may comprise any type of non-transitory storage device configured to store data, programs, and other information and to make the data, programs, and other information accessible via the bus 908. The mass storage 910 may comprise, for example, one or more of a solid state drive, hard disk drive, a magnetic disk drive, or an optical disk drive. In some embodiments, the mass storage 910 may be remote to the electronic device 900 and accessible through use of a network interface such as interface 906. In the illustrated embodiment, the mass storage 910 is distinct from memory 904 where it is included, and may generally perform storage tasks compatible with higher latency, but may generally provide lesser or no volatility. In some embodiments, the mass storage 910 may be integrated with a heterogeneous memory 904.

[0432] The optional video adapter 912 and the I / O interface 916 (shown in dashed lines) provide interfaces to couple the electronic device 900 to external input and output devices. Examples of input and output devices include a display 914 coupled to the video adapter 912 and an I / O device 918 such as a touch-screen coupled to the I / O interface 916. Other devices may be coupled to the electronic device 900, and additional or fewer interfaces may be utilized. For example, a serial interface such as Universal Serial Bus (USB) (not shown) may be used to provide an interface for an external device. Those skilled in the art will appreciate that in embodiments in which ED 900 is part of a data center, I / O interface 916 and Video Adapter 912 may be virtualized and provided through network interface 906.

[0433] The embodiments of the present disclosure may be implemented by means of a software program so that the electronic device 900 may perform any process of the disclosure as discussed with reference to FIG. 2-8. The embodiments of the present disclosure may also be implemented by hardware or by a combination of software and hardware.

[0434] In some example embodiments, the software program may be tangibly contained in a computer-readable medium which may be included in the electronic device 900 (such as in the memory 904 or mass storage 910) or other storage devices that are accessible by the electronic device 900. The electronic device 900 may load the software program from the computer-readable medium to the memory 904 for execution. The computer-readable medium may include any types of tangible non-volatile storage, such as ROM, EPROM, a flash memory, a hard disk, CD, DVD, and the like.

[0435] Generally, various embodiments of the present disclosure may be implemented in hardware or special purpose circuits, software, logic or any combination thereof. Some aspects may be implemented in hardware, while other aspects may be implemented in firmware or software which may be executed by a controller, microprocessor or other computing device. While various aspects of embodiments of the present disclosure are illustrated and described as block diagrams, flowcharts, or using some other pictorial representations, it is to be understood that the block, apparatus, system, technique or method described herein may be implemented in, as non-limiting examples, hardware, software, firmware, special purpose circuits or logic, general purpose hardware or controller or other computing devices, or some combination thereof.

[0436] FIG. 10 illustrates a schematic diagram of a structure of an apparatus 1000 in accordance with some embodiments of the present disclosure. As shown in FIG. 10, the apparatus 1000 includes a performing unit 1002. The apparatus 1000  may be applied to the communication system as shown in FIG. 1, and may implement any of the methods provided in the foregoing embodiments. Optionally, a physical representation form of the apparatus 1000 may comprise a communication device (for example, a network device, or a UE, or a core network device, or a 3rd party device) , or a part of the communication device. Alternatively, the apparatus 1000 may be another apparatus that can implement a function of the communication device, for example, a processor or a chip inside the communication device. Specifically, the apparatus 1000 may be some programmable chips such as a field-programmable gate array (field-programmable gate array, FPGA) , a complex programmable logic device (complex programmable logic device, CPLD) , an application-specific integrated circuit (application-specific integrated circuits, ASIC) , or a system on a chip (System on a chip, SOC) .

[0437] In some embodiments, the performing unit 1002 may be configured to perform at least one operation based on an AI / ML functional framework. The AI / ML functional framework may comprise at least one of a first function configured to determine first one or more devices for participating in a training process of an AI / ML model, a second function configured to determine second one or more devices for performing model monitoring or functionality monitoring of the AI / ML model, or third function configured to determine third one or more devices for performing model inference based on the AI / ML model. In addition, the AI / ML functional framework may further comprise at least one of a fourth function configured to perform model training of the AI / ML model based on the training process, a fifth function configured to perform model management of the AI / ML model, a sixth function configured to provide at least one inference result of the model inference, a seventh function configured to provide first input data to the first function, provide second input data to the second function, and provide third input data to the third function, or an eighth function configured to store the AI / ML model.

[0438] In some other embodiments, the apparatus 1000 can include various other units or modules which may be configured to perform various operations or functions as described in connection with the foregoing method embodiments. The details can be obtained referring to the detailed description of the foregoing method embodiments and are not described herein again.

[0439] It should be noted that division into the units or modules in the foregoing embodiments of the present disclosure is an example, and is merely logical function division. In actual implementation, there may be another division manner. In addition, function units in embodiments of the present disclosure may be integrated into one processing unit, or may exist alone physically, or two or more units may be integrated into one unit. The integrated unit may be implemented in a form of hardware, or may be implemented in a form of a software function unit.

[0440] The present disclosure also provides at least one computer program product tangibly stored on a non-transitory computer-readable storage medium. The computer program product includes computer-executable instructions, such as those included in program modules, being executed in a device on a target real or virtual processor, to carry out the method 200 or the flowchart as described above with reference to FIGS. 2-8. Generally, program modules include routines, programs, libraries, objects, classes, components, data structures, or the like that perform particular tasks or implement particular abstract data types. The functionality of the program modules may be combined or split between program modules as desired in various embodiments. Machine-executable instructions for program modules may be executed within a local or distributed device. In a distributed device, program modules may be located in both local and remote storage media.

[0441] Program code for carrying out methods of the present disclosure may be written in any combination of one or more programming languages. These program codes may be provided to a processor or controller of a general purpose computer, special purpose computer, or other programmable data processing apparatus, such that the program codes, when executed by the processor or controller, cause the functions / operations specified in the flowcharts and / or block diagrams to be implemented. The program code may execute entirely on a machine, partly on the machine, as a stand-alone software package, partly on the machine and partly on a remote machine or entirely on the remote machine or server.

[0442] In the context of the present disclosure, the computer program codes or related data may be carried by any suitable carrier to enable the device, apparatus or processor to perform various processes and operations as described above. Examples of the carrier include a signal, computer-readable medium, and the like.

[0443] The computer-readable medium may be a computer-readable signal medium or a computer-readable storage medium. A computer-readable medium may include but not limited to an electronic, magnetic, optical, electromagnetic, infrared, or semiconductor system, apparatus, or device, or any suitable combination of the foregoing. More specific examples of the computer-readable storage medium would include an electrical connection having one or more wires, a portable computer diskette, a hard disk, a random access memory (RAM) , a read-only memory (ROM) , an erasable programmable read-only memory (EPROM or Flash memory) , an optical fiber, a portable compact disc read-only memory (CD-ROM) , an optical storage device, a magnetic storage device, or any suitable combination of the foregoing.

[0444] Further, while operations are depicted in a particular order, this should not be understood as requiring that such operations be performed in the particular order shown or in sequential order, or that all illustrated operations be performed, to achieve desirable results. In certain circumstances, multitasking and parallel processing may be advantageous. Likewise, while several specific implementation details are contained in the above discussions, these should not be construed as limitations on the scope of the present disclosure, but rather as descriptions of features that may be specific to particular embodiments. Certain features that are described in the context of separate embodiments may also be implemented in combination in a single embodiment. Conversely, various features that are described in the context of a single embodiment may also be implemented in multiple embodiments separately or in any suitable sub-combination.

[0445] Although the present disclosure has been described in languages specific to structural features and / or methodological acts, it is to be understood that the present disclosure defined in the appended claims is not necessarily limited to the specific features or acts described above. Rather, the specific features and acts described above are disclosed as example forms of implementing the claims.

[0446] Through this document, the terms defined below may be referenced. LTE             Long Term Evolution NR              New Radio BWP             Bandwidth part BS              Base Station CA              Carrier Aggregation CC              Component Carrier CG              Cell Group CSI             Channel state information CSI-RS          Channel state information Reference Signal DC              Dual Connectivity DCI             Downlink control information DL              Downlink DL-SCH          Downlink shared channel EN-DC           E-UTRA NR dual connectivity with MCG using E-UTRA and SCG using NR gNB             Next generation (or 5G) base station HARQ-ACK        Hybrid automatic repeat request acknowledgement MCG            Master cell group MCS            Modulation and coding scheme MAC-CE         Medium Access Control-Control Element PBCH           Physical broadcast channel PCell          Primary cell PDCCH          Physical downlink control channel PDSCH          Physical downlink shared channel PRACH          Physical Random Access Channel PRG            Physical resource block group PSCell         Primary SCG Cell PSS            Primary synchronization signal PUCCH          Physical uplink control channel PUSCH          Physical uplink shared channel RACH           Random access channel RAPID          Random access preamble identity RB             Resource block RE             Resource element RRM            Radio resource management RMSI           Remaining system information RS             Reference signal RSRP           Reference signal received power RRC            Radio Resource Control SCG            Secondary cell group SFN            System frame number SL             Sidelink SCell          Secondary Cell SPS            Semi-persistent scheduling SR             Scheduling request SRI            SRS resource indicator SRS            Sounding reference signal SSS            Secondary synchronization signal SSB            Synchronization Signal Block SUL            Supplement Uplink TA             Timing advance TAG            Timing advance group TUE           target UE UCI           Uplink control information UE            User Equipment UL            Uplink UL-SCH        Uplink shared channel

Claims

1.A method comprising:performing at least one operation based on an artificial intelligence / machine learning (AI / ML) functional framework,wherein the AI / ML functional framework comprises at least one of the following:a first function configured to determine first one or more devices for participating in a training process of an AI / ML model;a second function configured to determine second one or more devices for performing model monitoring or functionality monitoring of the AI / ML model; ora third function configured to determine third one or more devices for performing model inference based on the AI / ML model;wherein the AI / ML functional framework further comprises at least one of the following:a fourth function configured to perform model training of the AI / ML model based on the training process;a fifth function configured to perform model management of the AI / ML model;a sixth function configured to provide at least one inference result of the model inference;a seventh function configured to provide first input data to the first function, provide second input data to the second function, and provide third input data to the third function; oran eighth function configured to store the AI / ML model.2.The method of claim 1, wherein the first function is further configured to at least one of the following:activate at least one device among the first one or more devices to participate in the training process;deactivate at least one device among the first one or more devices to stop participating in the training process; orprovide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device:at least one training task,at least one training functionality, ormodel delivery.3.The method of claim 1 or 2, wherein the second function is further configured to at least one of the following:activate at least one device among the second one or more devices to perform the model monitoring or functionality monitoring;deactivate at least one device among the second one or more devices to stop performing the model monitoring or functionality monitoring; orprovide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device:at least one monitoring task,at least one monitoring functionality, ormodel delivery.4.The method of any of claims 1-3, wherein the third function is further configured to at least one of the following:activate at least one device among the third one or more devices to perform the model inference;deactivate at least one device among the third one or more devices to stop performing the model inference; orprovide, to at least one device among the first one or more devices, information indicating at least one of the following to be performed by the at least one device:at least one inference task,at least one inference functionality, ormodel delivery.5.The method of any of claims 1-4, wherein the fourth function is further configured to perform at least one of the following:validation of the AI / ML model;testing of the AI / ML model; ordata preparation associated with the AI / ML model.6.The method of any of claims 1-5, wherein the fifth function is further configured to at least one of the following:perform control of the model training of the AI / ML model;perform control of the model inference of the AI / ML model; ormonitor output of the AI / ML model.7.The method of any of claims 1-6, wherein the sixth function is further configured to at least one of the following:perform an action based on the at least one inference result; orperform data preparation based on the third input data obtained from the seventh function.8.The method of any of claims 1-7, wherein the seventh function is further configured to at least one of the following:provide the first input data to the fourth function,provide the second input data to the fifth function, orprovide the third input data to the sixth function.9.The method of any of claims 1-8, wherein the at least one operation comprises at least one of the following operations performed by the first function:receiving the first input data from the seventh function,receiving the AI / ML model from the fourth function,providing the AI / ML model to the first one or more devices,obtaining one or more local models from the first one or more devices, ortransmitting the one or more local models to the fourth function, wherein the one or more local models are generated by training the AI / ML model based on local data at the first one or more devices.10.The method of any of claims 1-9, wherein the at least one operation comprises at least one of the following operations performed by the second function:receiving the second input data from the seventh function,receiving the AI / ML model or a sub-model of the AI / ML model from the fifth function,providing the AI / ML model or the sub-model to the second one or more devices,obtaining one or more monitoring results from the second one or more devices, ortransmitting the one or more monitoring results to the fifth function.11.The method of any of claims 1-10, wherein the at least one operation comprises at least one of the following operations performed by the third function:receiving the third input data from the seventh function,receiving the AI / ML model or a sub-model of the AI / ML model from the sixth function,providing the AI / ML model or the sub-model to the third one or more devices,obtaining one or more inference results from the third one or more devices, ortransmitting the one or more inference results to the sixth function.12.The method of any of claims 1-11, wherein the at least one operation comprises the following operations performed by the fourth function:transmitting the AI / ML model to the first function;receiving one or more local models from the first function, wherein the one or more local models are generated by training the AI / ML model based on local data at the first one or more devices;aggregating the one or more local models to generate a trained or updated AI / ML model; andtransmitting the trained or updated AI / ML model to the eighth function.13.The method of any of claims 1-12, wherein the at least one operation comprises at least one of the following operations performed by the fourth function:receiving the first input data from the seventh function; orreceiving, from the fifth function, a performance level of the AI / ML model and a request to retrain the AI / ML model.14.The method of any of claims 1-13, wherein the at least one operation comprises the following operations performed by the fifth function:receiving the second input data from the seventh function;receiving the at least one inference result from the sixth function;transmitting the AI / ML model or a sub-model of the AI / ML model to the second function; andreceiving one or more monitoring results from the second function, wherein the one or more monitoring results are provided by the second one or more devices.15.The method of claim 14, wherein the at least one operation further comprises the following operations performed by the fifth function:determining that a performance level of the AI / ML model is below a threshold level based on at least one of (i) the at least one inference result received from the sixth function or (ii) the one or more monitoring results received from the second function; andtransmitting, to the fourth function, the performance level of the AI / ML model and a request to retrain the AI / ML model.16.The method of any of claims 1-15, wherein the at least one operation comprises at least one of the following operations performed by the fifth function:transmitting, to the sixth function, a switching indication to switch from the AI / ML model to another AI / ML model;transmitting, to the sixth function, a fallback indication to apply a non-AI / ML model instead of the AI / ML model;transmitting, to the sixth function, an activating indication to activate one or more of a plurality of candidate AI / ML models; ortransmitting, to the sixth function, a deactivating indication to deactivate one or more of the plurality of candidate AI / ML models.17.The method of any of claims 1-16, wherein the at least one operation comprises the following operation performed by the fifth function:transmitting, to the eighth function, a request that the eighth function transmits the AI / ML model to the sixth function.18.The method of any of claims 1-17, wherein the at least one operation comprises the following operations performed by the sixth function:transmitting the AI / ML model or a sub-model of the AI / ML model to the third function;receiving one or more inference results from the third function, wherein the one or more inference results are provided by the third one or more devices;combining the one or more inference results to obtain the at least one inference result; andtransmitting the at least one inference result to the fifth function.19.The method of any of claims 1-18, wherein the at least one operation comprises at least one of the following operations performed by the sixth function:receiving, from the fifth function, a switching indication to switch from the AI / ML model to another AI / ML model;receiving, from the fifth function, a fallback indication to apply a non-AI / ML model instead of the AI / ML model;receiving, from the fifth function, an activating indication to activate one or more of a plurality of candidate AI / ML models; orreceiving, from the fifth function, a deactivating indication to deactivate one or more of the plurality of candidate AI / ML models.20.The method of any of claims 1-19, wherein the at least one operation comprises at least one of the following operations performed by the sixth function:receiving the third input data from the seventh function; orreceiving the AI / ML model from the eighth function.21.The method of any of claims 1-20, wherein the at least one operation comprises at least one of the following operations performed by the eighth function:receiving a trained or updated AI / ML model from the fourth function, wherein the trained or updated AI / ML model is generated by aggregating one or more local models trained at the first one or more devices,receiving, from the fifth function, a request that the eighth function transmits the AI / ML model to the sixth function, ortransmitting the AI / ML model to the sixth function.22.The method of any of claims 1-21, wherein the AI / ML model is a first AI / ML model, and the at least one operation comprises the following operations performed by the fourth function:receiving a second AI / ML model from the fifth function;performing fine-tuning of the second AI / ML model; andtransmitting the fine-tuned second AI / ML model to the eighth function.23.The method of any of claims 1-22, wherein the AI / ML model is a first AI / ML model, and the at least one operation comprises the following operation performed by the fifth function:transmitting a second AI / ML model to the fourth function.24.The method of any of claims 1-23, wherein the AI / ML model is a first AI / ML model, and the at least one operation comprises the following operation performed by the eighth function:receiving a fine-tuned second AI / ML model from the fourth function, wherein the fine-tuned second AI / ML model is generated by fine-tuning a second AI / ML model.25.The method of any of claims 1-24, wherein at least one of the following:the first one or more devices transmit training data among the first one or more devices via sidelink transmission;the second one or more devices transmit monitoring data among the second one or more devices via sidelink transmission; orthe third one or more devices transmit inference data among the third one or more devices via sidelink transmission.26.The method of any of claims 1-25, wherein the first one or more devices include at least one basic device and at least one aggregation device, and wherein:a basic device transmits a local model of the basic device to a first aggregation device;the first aggregation device receives one or more local models from one or more basic devices;the first aggregation device receives one or more common models from one or more other aggregation devices, wherein a common model is generated by aggregating a plurality of local models;the first aggregation device aggregates the one or more local models and the one or more common models to generate an updated common model; andthe first aggregation device transmits the updated common model to a second aggregation device.27.The method of any of claims 1-25, wherein the second one or more devices include at least one basic device and at least one aggregation device, and wherein:a basic device transmits a monitoring result of the basic device to a first aggregation device;the first aggregation device receives one or more monitoring results from one or more basic devices;the first aggregation device aggregates the one or more monitoring results to obtain an aggregated monitoring result; andthe first aggregation device transmits the aggregated monitoring result to a second aggregation device.28.The method of any of claims 1-25, wherein the third one or more devices include at least one basic device and at least one aggregation device, and wherein:a basic device transmits an inference result of the basic device to a first aggregation device;the first aggregation device receives one or more inference results from one or more basic devices;the first aggregation device aggregates the one or more inference results to obtain an aggregated inference result; andthe first aggregation device transmits the aggregated inference result to a second aggregation device.29.The method of any of claims 1-28, wherein the seventh function comprises:a first sub-function configured to provide a first portion of the first input data, a first portion of the second input data, and a first portion of the third input data, wherein the first portions of the first input data, the second input data, and the third input data include ground truth data;a second sub-function configured to provide a second portion of the first input data, a second portion of the second input data, and a second portion of the third input data, wherein the second portions of the first input data, the second input data, and the third input data include data other than ground truth data; anda third sub-function configured to control a first type of devices for collecting data and a second type of devices for collecting data, wherein the data collected by the first type of devices include ground truth data and the data collected by the second type of devices include data other than ground truth data.30.The method of any of claims 1-29, wherein at least one of the first function, the second function, the third function, the fourth function, the fifth function, the sixth function, the seventh function, or the eighth function is implemented in one of the following:a terminal device, an access network device, a core network device, or a third party device.31.An apparatus comprising:a transceiver; anda processor communicatively coupled with the transceiver,wherein the processor is configured to perform at least one operation based on an artificial intelligence / machine learning (AI / ML) functional framework,wherein the AI / ML functional framework comprises at least one of the following:a first function configured to determine first one or more devices for participating in a training process of an AI / ML model;a second function configured to determine second one or more devices for performing model monitoring or functionality monitoring of the AI / ML model; ora third function configured to determine third one or more devices for performing model inference based on the AI / ML model;wherein the AI / ML functional framework further comprises at least one of the following:a fourth function configured to perform model training of the AI / ML model based on the training process;a fifth function configured to perform model management of the AI / ML model;a sixth function configured to provide at least one inference result of the model inference;a seventh function configured to provide first input data to the first function, provide second input data to the second function, and provide third input data to the third function; oran eighth function configured to store the AI / ML model.32.A non-transitory computer readable medium comprising computer program stored thereon, the computer program, when executed on at least one processor, causing the at least one processor to perform the method of any of claims 1-30.33.A chip comprising at least one processing circuit configured to perform the method of any of claims 1-30.34.A computer program product tangibly stored on a computer-readable medium and comprising computer-executable instructions which, when executed, cause an apparatus to perform the method of any of claims 1-30.

Images