Methods and systems of model transfer z4

Abstract

Methods, apparatuses and systems, for model transfer for the z4 case are discussed herein. For example, a user equipment (UE) may report, to a network node, one or more supported known model structures. The UE may receive, from the network node, parameters for at least a first known model from the one or more supported known model structures. The UE may send, to the network node, a first indication of whether the first known model is available to the UE or whether a model transfer from the network node is needed, and send, to the network node, a second indication that the UE is ready to perform inferencing using the first known model. In some cases, the UE may report a capability of compiling the one or more supported known models on the device to the network node.

Description

METHODS AND SYSTEMS OF MODEL TRANSFER Z4TECHNICAL FIELD

[0001] This application relates generally to wireless communication systems implementing artificial intelligence / machine learning (AI / ML) models including the transfer of AI / ML models.BACKGROUND

[0002] Wireless mobile communication technology uses various standards and protocols to transmit data between a base station and a wireless communication device. Wireless communication system standards and protocols can include, for example, 3rd Generation Partnership Project (3GPP) Long Term Evolution (LTE) (e.g., 4G) , 3GPP New Radio (NR) (e.g., 5G) , and Institute of Electrical and Electronics Engineers (IEEE) 802.11 standard for Wireless Local Area Networks (WLAN) (commonly known to industry groups as  ) .

[0003] As contemplated by the 3GPP, different wireless communication systems' standards and protocols can use various radio access networks (RANs) for communicating between a base station of the RAN (which may also sometimes be referred to generally as a RAN node, a network node, or simply a node) and a wireless communication device known as a user equipment (UE) . 3GPP RANs can include, for example, Global System for Mobile communications (GSM) , Enhanced Data Rates for GSM Evolution (EDGE) RAN (GERAN) , Universal Terrestrial Radio Access Network (UTRAN) , Evolved Universal Terrestrial Radio Access Network (E-UTRAN) , and / or Next-Generation Radio Access Network (NG-RAN) .

[0004] Each RAN may use one or more radio access technologies (RATs) to perform communication between the base station and the UE. For example, the GERAN implements GSM and / or EDGE RAT, the UTRAN implements Universal Mobile Telecommunication System (UMTS) RAT or other 3GPP RAT, the E-UTRAN implements LTE RAT (sometimes simply referred to as LTE) , and NG-RAN implements NR RAT (sometimes referred to herein as 5G RAT, 5G NR RAT, or simply NR) . In certain deployments, the E-UTRAN may also implement NR RAT. In certain deployments, NG-RAN may also implement LTE RAT.

[0005] A base station used by a RAN may correspond to that RAN. One example of an E-UTRAN base station is an Evolved Universal Terrestrial Radio Access Network (E-UTRAN) Node B (also commonly denoted as evolved Node B, enhanced Node B, eNodeB, or eNB) . One example of an NG-RAN base station is a next generation Node B (also sometimes referred to as a g Node B or gNB) .

[0006] A RAN provides its communication services with external entities through its connection to a core network (CN) . For example, E-UTRAN may utilize an Evolved Packet Core (EPC) while NG-RAN may utilize a 5G Core Network (5GC) .

[0007] BRIEF DESCRIPTION OF THE SEVERAL VIEWS OF THE DRAWINGS

[0008] To easily identify the discussion of any particular element or act, the most significant digit or digits in a reference number refer to the figure number in which that element is first introduced.

[0009] FIG. 1 illustrates a flow diagram of a user equipment (UE) initiated model transfer ( "Alt. A" ) where the UE compiles the model at the UE and confirms the model is already stored in memory, according to embodiments herein.

[0010] FIG. 2 illustrates a flow diagram of a UE initiated model transfer ( "Alt. A" ) where the UE compiles the model and confirms the model is not available (i.e., not stored in memory) , according to embodiments herein.

[0011] FIG. 3 illustrates a flow diagram of a UE initiated model transfer ( "Alt. A" ) where the UE transfers the model to a UE side server for optimization and the UE confirms model transfer is not necessary, according to embodiments herein.

[0012] FIG. 4 illustrates a flow diagram of a UE initiated model transfer ( "Alt. A" ) where the UE transfers the model to a UE side server for optimization and the UE confirms model transfer is necessary, according to embodiments herein.

[0013] FIG. 5 illustrates a flow diagram of a network initiated model transfer ( "Alt. B" ) where the UE compiles the model at the UE and confirms the model is already stored in memory, according to embodiments herein.

[0014] FIG. 6 illustrates a flow diagram of a network initiated model transfer ( "Alt. B" ) where the UE compiles the model and confirms the model is not available (i.e., not stored in memory) , according to embodiments herein.

[0015] FIG. 7 illustrates a flow diagram of a network initiated model transfer ( "Alt. B" ) where the UE confirms model transfer from the network is not necessary, according to embodiments herein.

[0016] FIG. 8 illustrates a flow diagram of a network initiated model transfer ( "Alt. B" ) where the UE transfers the model to a UE side server for optimization and the UE confirms model transfer from the network is necessary, according to embodiments herein.

[0017] FIG. 9 illustrates a method performed by a UE, according to embodiments herein.

[0018] FIG. 10 illustrates a method performed by a network node, according to embodiments herein.

[0019] FIG. 11 illustrates an example architecture of a wireless communication system, according to embodiments disclosed herein.

[0020] FIG. 12 illustrates a system for performing signaling between a wireless device and a network device, according to embodiments disclosed herein.DETAILED DESCRIPTION

[0021] Various embodiments are described with regard to a UE. However, reference to a UE is merely provided for illustrative purposes. The example embodiments may be utilized with any electronic component that may establish a connection to a network and is configured with the hardware, software, and / or firmware to exchange information and data with the network. Therefore, the UE as described herein is used to represent any appropriate electronic component.

[0022] Goals of wireless communication systems include providing reliable, efficient, and secure communication between UEs and network nodes. Artificial intelligence (AI)  / machine learning (ML) may be used to assist in meeting these goals. For example, AI technologies can be used in several ways within a wireless system, including network optimization. For instance, AI can be used to optimize the performance of the network by analyzing data, predicting future traffic patterns, and identifying areas of congestion. This can help to improve network efficiency and reduce downtime. Further, AI can be used to automate network operations, such as provisioning, configuration, and optimization. This can help to reduce costs and improve operational efficiency.

[0023] A device can leverage multiple AI / ML models for different conditions through a process called model selection or model switching. This approach allows the device to dynamically choose the most appropriate AI model based on the prevailing conditions or requirements. The models may be used to enhance different aspects of wireless communication in different scenarios. Embodiments herein provide apparatuses, systems, and methods of transferring and updating models based on a model identification (ID) .

[0024] Table 1 provides different cases for model delivery / transfer. Table 1 defines aspects of the various cases (e.g., case y, case z1, case z2, case z3, case z4, and case z5) . For example, Table 1 associates each of the cases with a model delivery / transfer method, model storage location, and training location. For example, case y may include an over-the-top model delivery (if needed) with storage of the model outside of the 3GPP network and may include model training at the UE, at the network, or at a neutral site such as a server. Case z1 may include a model transfer in a proprietary format with model storage in the 3GPP network and may include model training at the UE or at the network. Case z2 may include model transfer in a proprietary format with model storage in the 3GPP network and may include model training at the network. Case z3 may include model transfer in an open format with model storage in the 3GPP network and may include model training at the UE or at a neutral site. Case z4 may include model transfer in an open format of a known model structure at the UE with model storage in the 3GPP network and may include model training at the network. Case z5 may include model transfer in an open format of an unknown model structure at the UE with model storage in the 3GPP network and may include model training at the network.

[0025] Table 1: Cases for Model Delivery / Transfer Model Storage Location and Model Training Location

[0026] The cases provided in Table 1 are for facilitating discussion and do not imply applicability, feasibility, entity mapping, architecture, signaling nor any prioritization of the models. Further, the cases provided in Table 1 are not intended to introduce sub-levels of level z, and other cases may be included further upon additional discussion and interest from various vendors and / or companies. Additionally, case z4 and case z5 boundaries may be further considered, however case z5 may be deprioritized compared to the other cases discussed herein.

[0027] For model delivery / transfer case z4, the following alternatives merit further study (including the necessity / feasibility / benefits) . The alternatives relate to UE initiated model transfer and network initiated model transfer for case z4.

[0028] In a UE initiated model transfer alternative ( "Alt. A" ) , the UE may report the supported known model structure (s) to network (e.g., “Step A-1” ) , and the network may transfer to the UE the parameters for one or more of supported known model structure (s) reported in “Step A-1” (e.g., "Step A-2" ) . However, whether some additional step (s) , and / or whether other information is needed merits further consideration and discussion.

[0029] In a network initiated model transfer alternative ( "Alt. B" ) , the UE may report to the network its support of model transfer / delivery case z4 (e.g., "Step B-0" ) . Note that  “Step B-0” may occur before or after "Step B-1" , or may in some cases be skipped if it is not necessary. The network may indicate to UE the candidate known model structure (s) (e.g., “Step B-1” ) , and the UE may report to the network which model structure (s) out of the candidate known model structure (s) indicated in Step B-1 is / are supported (e.g., “Step B-2” ) . Accordingly, the network may transfer to UE the parameters for one or more of supported known model structure (s) reported in Step B-2 (e.g., “Step B-3” ) . However, whether additional step (s) , and / or whether other information merits further consideration and discussion.

[0030] It should be understood that other alternative (s) are not precluded.

[0031] Embodiments herein provide additional steps and information to improvise model transfer case z4. The model transfer case z4 may be performed according to various different cases. In a first case, the network may transfer the parameters of one or more supported known model structure to the UE and the UE may compile the transferred model on the device (i.e., on the UE) (referred to herein as “case 1” ) . In a second case, the UE may forward the model to a UE side server for further optimization and compiling and the UE side server may transfer the optimized and / or compiled model to the UE (referred to herein as “case 2” ) .

[0032] Embodiments herein introduce additional steps for model transfer case z4 for both “Alt. A” and “Alt. B. ” In a first additional step (referred to herein as "Step 1" ) the UE may confirm whether the model is or is not downloaded and stored at the UE. Accordingly, the UE may indicate said confirmations to the network. In a second additional step (referred to herein as "Step 2" ) the UE may confirm whether the model is ready for inferencing or not. Accordingly, the UE may indicate, to the network, whether the model is ready for inference or not. Additionally, embodiments herein introduce information exchange for “Alt. A” and “Alt. B” if the UE confirms whether the model is or is not downloaded and stored at the UE or if the UE confirms whether the model is ready for inferencing or not. Embodiments herein may improve model transfer procedures through the introduction of additional steps that make the model transfer more efficient and robust.

[0033] In some embodiments, in a UE initiated model transfer ( "Alt. A" ) steps may be introduced to confirm if a model is already downloaded and stored in memory of the UE or not and to confirm if the model is ready for inference or not. In some such  embodiments, the UE may compile the transferred model on the device (i.e., the UE) ( "case 1" ) .

[0034] FIG. 1 illustrates a flow diagram 100 of a UE 102 initiated model transfer ( "Alt. A" ) where the UE 102 compiles the model at the UE 102 and confirms the model is already stored in memory, according to embodiments herein. In some cases, the UE 102 may confirm that the model is already stored in the memory of the UE 102 and “Step A-2” may be skipped. For example, the illustrated flow diagram 100 begins with the UE 102 reporting 106 the supported known model structure (s) to the network 104 (i.e., “Step A-1” discussed herein) .

[0035] In some embodiments, the UE 102 may report 108 to the network 104 the capability of the UE for compiling of the supported known model structure indicated in “Step A-1” for inference. The UE reporting the capability of on device compiling for inference may be referred to as Step A-1-1. Not all UEs may have the capability of on device compiling for inference. This information may assist the network 104 in allocating resources to support the UE. For example, this may allow the network 104 to understand the timing of the model transfer or model compilation. In some cases, reporting of the UE capability for compiling the known model structure may be combined with “Step A-1. ”

[0036] The network 104 may announce 110 (e.g., send) a model ID and / or a model association ID to the UE 102. In some instances, the network 104 may announce 110 the version number and optional meta information of the model to the UE 102. This step may be referred to as Step A-1-2. The combination of information may represent the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 104 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the meta information of the model may be optional information for the UE 102 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0037] In some embodiments, if the model is already stored at the UE 102, the UE 102 may confirm 112 to the network 104 (e.g., send a message with a confirmation) that the model is stored in the memory of the UE 102 and that the model is ready for inference. No model transfer may be needed in such instances.

[0038] The UE 102 may also report to the network that the model is compiled and ready for inference (step A-1-3) . In some embodiments, this report that the model is ready for inferencing may be included in the confirmation message that the model is stored in the memory of the UE 102 (as shown) . In some embodiments, the UE 102 may confirm that the model is stored in memory in a first confirmation message sent to the network 104 and then the UE 102 may confirm that the model is ready for inference in a second confirmation message sent to the network 104, if, for example, the UE 102 needs to compile the open format model into executable files.

[0039] As a result of the confirmation sent to the network 104 (i.e., the model already being stored in the memory of the UE and the model being ready for inference) , “Step A-2” , where the network 104 transfers the parameters of the one or more known model structure (s) may be skipped 114.

[0040] The indications to confirm whether model is available and the indication to confirm whether model is ready to perform inference can be the same message or two messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) . In some embodiments, the indication to confirm whether model is available (i.e., stored) and the indication to confirm whether model is ready to perform inference can be the same message (e.g., the UAI message or the UL MAC-CE) .

[0041] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0042] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the model being available but needing updated parameters, the message may optionally  include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0043] The UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0044] FIG. 2 illustrates a flow diagram 200 of a UE 202 initiated model transfer ( "Alt. A" ) where the UE 202 compiles the model and confirms the model is not available (i.e., not stored in memory) , according to embodiments herein. As shown, the UE 202 may confirm that the model is not available (i.e., not stored in the memory of the UE 202) and “Step A-2” (i.e., model transfer) may be performed. The example signaling shown in FIG. 1 may be used when the model is available at the UE, and the signaling shown in FIG. 2 may be used when the model is not available at the UE. By performing model transfer only when required, the wireless communication system may reduce overhead.

[0045] The illustrated flow diagram 200 begins with the UE 202 reporting 206 the supported known model structure (s) to the network 204 (i.e., “Step A-1” discussed herein) . In some embodiments, the UE 202 may report 208 to the network 204 the capability of the UE for compiling of the supported known model structure indicated in “Step A-1” for inference. In some cases, reporting of the UE capability for compiling the known model structure may be combined with “Step A-1. ”

[0046] The network 204 may announce 210 (e.g., send) a model ID and / or a model association ID to the UE 202. In some instances, the network 204 may announce 210 the version number and optional meta information of the model to the UE 202. The combination of information represents the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 204 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the meta information of the model may be optional information for the UE 202 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0047] The UE 202 may determine and confirm 212 (e.g., send a confirmation message) to the network 204 that the model is not stored in memory and as a result is not available. In response, the network 204 may perform “Step A-2” and transfer 214, to the  UE 202, the parameters for one or more of the supported known model structure (s) reported in “Step A-1” .

[0048] The UE 202 may compile 216 the model on the device (i.e., on the UE 202) and may indicate 218, using an additional confirmation message, to the network 204 whether the model is ready for inferencing or not. The indication may be sent in, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) .

[0049] The indications to confirm whether model is available and the indication to confirm whether model is ready to perform inference can be the same message or two messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) . In some embodiments, the indication to confirm whether model is available (i.e., stored) and the indication to confirm whether model is ready to perform inference can be the same message (e.g., the UAI message or the UL MAC-CE) .

[0050] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0051] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the model being available but needing updated parameters, the message may optionally include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0052] The UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0053] In some other embodiments, the UE may forward the model to a UE side server for further optimization of the model ( "case 2" ) . FIG. 3 illustrates a flow diagram 300 of a UE 304 initiated model transfer ( "Alt. A" ) where the UE 304 transfers the model to a UE side server 302 for optimization and the UE 304 confirms model transfer is not necessary, according to embodiments herein. In some instances, the UE 304 may confirm that model transfer is not needed and “Step A-2” may be skipped.

[0054] For example, the illustrated flow diagram 300 begins with the UE 304 reporting 308 the supported known model structure (s) to the network 306.

[0055] The network 306 may announce 310 a model ID and / or a model association ID to the UE 304. In some instances, the network 306 may announce 310 the version number and optional meta information of the model to the UE 304. The combination of information may represent the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 306 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the meta information of the model may be optional information for the UE 304 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0056] The UE 304 may send 312 a UE 304 to UE side server 302 inquiry of whether the same copy of the model and / or the model structure (s) is already transferred to the UE side server 302 by other devices (e.g., other UEs) . The UE side server 302 may be a server for multiple other UEs and devices that transmit model / model information to and receive model / model information from. As a result, the UE side server 302 may have received the model / model information from another UE / device and thus model transfer may not be needed. In some cases, the inquiry may take the form of 3GPP based signaling (e.g., uplink control information (UCI) , downlink control information (DCI) , MAC CE) . In some other cases, the inquiry may take the form of signaling that is not specified by 3GPP and is transparent to 3GPP (e.g., WIFI, Bluetooth) .

[0057] If the performed inquiry concludes that a same copy of the model and / or model structure (s) is already stored at the UE side server 302 (i.e., available) , and is under  development at the UE side server 302 (i.e., being compiled) , the UE side server 302 may send a response 314 to the UE 304 confirming that the model is stored and under development at the UE side server 302. Additionally, the UE side server 402 may be take the form of, for example, an over-the-top (OTT) server or a cloud server.

[0058] Subsequently, the UE 304 may confirm 316 (e.g., send a confirmation message) to the network 306 that model transfer is not needed. Accordingly, “Step A-2” , may be skipped.

[0059] Then, the UE side server 302 may transfer 318 the model to the UE 304 and the UE 304 may indicate 320 to the network 306 that the model is ready to perform inferencing. Optionally, the UE side server 302 may include the model transfer 318 with the response 314 to the UE 304 that the model is already stored, available, and under development at the UE side server 302. Accordingly, the UE 304 confirmation that model transfer is not needed and the indication that the model is ready to perform inferencing may be combined into one step.

[0060] The indications to confirm whether model is available (e.g., confirm 316) and the indication to confirm whether model is ready to perform inference (e.g., indicate 320) can be the same message or two messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) .

[0061] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0062] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the model being available but needing updated parameters, the message may optionally  include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0063] The UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0064] FIG. 4 illustrates a flow diagram 400 of a UE 404 initiated model transfer ( "Alt. A" ) where the UE 404 transfers the model to a UE side server 402 for optimization and the UE 404 confirms model transfer is necessary, according to embodiments herein. In some other instances, the UE 404 may confirm that model transfer is needed as the model is not stored (i.e., not available) at the UE side server 402. The example signaling shown in FIG. 3 may be used when the model is available at the UE side server, and the signaling shown in FIG. 4 may be used when the model is not available at the UE side server. By performing model transfer only when required, the wireless communication system may reduce overhead.

[0065] For example, the flow diagram 400 begins with the UE 404 reporting 408 the supported known model structure (s) to the network 406. The network 406 may announce 410 a model ID and / or a model association ID to the UE 404. In some instances, the network 406 may announce 410 the version number and optional meta information of the model to the UE 404. The combination of information represents the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 406 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the meta information of the model may be optional information for the UE 404 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0066] Accordingly, the UE 404 may perform 412 a UE 404 to UE side server 402 inquiry of whether the same copy of the model and / or the model structure (s) is already transferred to the UE side server 402 by other devices (e.g., other UEs) . In some cases, the inquiry may take the form of 3GPP based signaling (e.g., UCI, DCI, MAC CE) . In some other cases, the inquiry may take the form of signaling that is not specified by 3GPP and is transparent to 3GPP (e.g., WIFI, Bluetooth) .

[0067] If the performed inquiry concludes that a same / similar copy of the model and / or model structure (s) is not stored at the UE side server 402 (i.e., not available) , the UE side server 402 may send a response 414 to the UE 404 confirming that the model is not available at the UE side server 402.

[0068] The UE 404 may confirm 416 to the network 406 that model transfer is needed. In response, the network 406 may perform “Step A-2” and transfer 418, to the UE 404, the parameters for one or more of the supported known model structure (s) reported in “Step A-1” . The UE 404 may forward 420 the model received from the network 406 to the UE side server 402 and the UE side server 402 may optimize 422 the model at the UE side server 402. In some examples, this may take some time as the UE side server 402 may need to optimize and compile the model in view of information from many devices and / or UEs.

[0069] The UE side server 402 may transfer 424 the optimized model to the UE 404 and the UE 404 may indicate 426 to the network 406 that the model is ready to perform inferencing.

[0070] The indications to confirm whether model is available (e.g., confirm 416) and the indication to confirm whether model is ready to perform inference (e.g., indicate 426) can be the same message or two messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) .

[0071] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0072] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the  model being available but needing updated parameters, the message may optionally include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0073] It should be understood that the UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0074] In some embodiments, in a network initiated model transfer ( "Alt. B" ) , steps may be introduced to confirm if a model is already downloaded and stored in memory of the UE or not and to confirm if the model is ready for inference or not. In some such embodiments, the UE may compile the transferred model on the device (i.e., the UE) ( "case 1" ) .

[0075] FIG. 5 illustrates a flow diagram 500 of a network 504 initiated model transfer ( "Alt. B" ) where the UE 502 compiles the model at the UE 502 and confirms the model is already stored in memory, according to embodiments herein. For example, informing the network 504 of the UE's capability to compile the model may allow the network 504 to understand the timing of the model transfer or model compilation if needed. In some instances, the UE 502 may confirm that the model is already stored in the memory of the UE 502 and “Step B-3” may be skipped.

[0076] For example, the flow diagram 500 begins with the UE 502 reporting 506 to the network 504 support of model transfer z4 ( "Step B-0" discussed herein) , and, in some embodiments, the capability of the UE 502 of on device model compiling for inference.

[0077] The network 504 may indicate 508 to the UE 502 candidate known model structure (s) ( "Step B-1" discussed herein) . Accordingly, the UE 502 may report 510 the supported model structure (s) (indicated in “Step B-1” ) to the network 504 ( "Step B-2" discussed herein) .

[0078] The network 504 may announce 512 (e.g., send) a model ID and / or a model association ID to the UE 502. In some instances, the network 504 may announce 512 the version number and optional meta information of the model to the UE 502. The combination of information represents the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 504 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the  meta information of the model may be optional information for the UE 502 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0079] Then, the UE 502 may confirm 514 to the network 504 that the model is in the memory of the UE 502 and is ready for inferencing. No model transfer may be needed in such instances. As a result, “Step B-3” may be skipped 516.

[0080] Optionally, the UE 502 may confirm that the model is stored in memory in a first confirmation message sent to the network 504 and then the UE 502 may confirm that the model is ready for inference in a second confirmation message sent to the network 504.

[0081] The indications to confirm whether model is available and the indication to confirm whether model is ready to perform inference can be the same message or two messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) .

[0082] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0083] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the model being available but needing updated parameters, the message may optionally include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0084] The UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0085] FIG. 6 illustrates a flow diagram 600 of a network 602 initiated model transfer ( "Alt. B" ) where the UE 602 compiles the model and confirms the model is not available (i.e., not stored in memory) , according to embodiments herein. In some other instances, the UE 602 may confirm that the model is not available (i.e., not stored in the memory of the UE 602) and “Step B-3” (i.e., model transfer) may need to be performed.

[0086] For example, the flow diagram 600 begins with the UE 602 reporting 606 to the network 604 support of model transfer z4 ( "Step B-0" discussed herein) , and, in some embodiments, the capability of the UE 602 of on device model compiling for inference.

[0087] The network 604 may indicate 608 to the UE 602 candidate known model structure (s) ( "Step B-1" discussed herein) . The UE 602 may report 610 the supported model structure (s) (indicated in “Step B-1” ) to the network 604 ( "Step B-2" discussed herein) .

[0088] The network 604 may announce 612 a model ID and / or a model association ID to the UE 602. In some instances, the network 604 may announce 612 the version number and optional meta information of the model to the UE 602. The combination of information represents the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 604 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the meta information of the model may be optional information for the UE 602 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0089] Then, the UE 602 may confirm 614 to the network 604 that the model is not stored in the memory of the UE 602. Accordingly, the network 604 may perform “Step B-3” and transfer 616 to the UE 602 the parameters for one or more of the supported known model structure (s) reporting in “Step B-2” .

[0090] Subsequently, the UE 602 may compile 618 the model on the device (i.e., on the UE) and indicate 620 to the network 604 that the model is ready to perform inferencing. The indication can be sent in, for example, a UAI message or in an UL MAC CE.

[0091] The indications to confirm whether model is available and the indication to confirm whether model is ready to perform inference can be the same message or two messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) .

[0092] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0093] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the model being available but needing updated parameters, the message may optionally include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0094] It should be understood that the UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0095] In some other embodiments, the UE may forward the model to a UE side server for further optimization of the model ( "case 2" ) . FIG. 7 illustrates a flow diagram 700 of a network 706 initiated model transfer ( "Alt. B" ) where the UE 704 confirms model transfer from the network 706 is not necessary, according to embodiments herein. In some cases, the UE 704 may confirm that model transfer is not needed and “Step A-2” may be skipped.

[0096] For example, the flow diagram 700 begins with the UE 704 reporting 708 to the network 706 support of model transfer z4, ( "Step B-0" discussed herein) . The network  706 may indicate 710 to the UE 704 candidate known model structure (s) ( "Step B-1" discussed herein) . The UE 704 may report 712 the supported model structure (s) (indicated in “Step B-1” ) to the network 706 ( "Step B-2" discussed herein) .

[0097] The network 706 may announce 714 a model ID and / or a model association ID to the UE 704. In some instances, the network 706 may announce 714 the version number and optional meta information of the model to the UE 704. The combination of information represents the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 706 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the meta information of the model may be optional information for the UE 704 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0098] The UE 704 may perform 716 a UE 704 to UE side server 702 inquiry of whether the same copy of the model and / or the model structure (s) is already transferred to the UE side server 702 by other devices (e.g., other UEs) . In some cases, the inquiry may take the form of 3GPP based signaling (e.g., UCI, DCI, MAC CE) . In some other cases, the inquiry may take the form of signaling that is not specified by 3GPP and is transparent to 3GPP (e.g., WIFI, Bluetooth) .

[0099] If the performed inquiry concludes that a same copy of the model and / or model structure (s) is already stored at the UE side server 702 (i.e., available) , and is under development at the UE side server 702 (i.e., being compiled) , the UE side server 702 may send a response 718 to the UE 704 confirming that the model is stored and under development at the UE side server 702.

[0100] The UE 704 may confirm 720 to the network 706 that model transfer is not needed. Accordingly, “Step B-3” may be skipped 722.

[0101] The UE side server 702 may transfer 724 the model to the UE 704 and the UE 704 may indicate 726 to the network 706 that the model is ready to perform inferencing. Optionally, the UE side server 702 may include the model transfer 724 with the response 718 to the UE 704 that the model is already stored, available, and under development at the UE side server 702. Accordingly, the UE 704 confirmation that model transfer is not needed and the indication that the model is ready to perform inferencing may be combined into one step.

[0102] The indications to confirm whether model is available and the indication to confirm whether model is ready to perform inference can be the same message or two messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) .

[0103] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0104] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the model being available but needing updated parameters, the message may optionally include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0105] It should be understood that the UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0106] FIG. 8 illustrates a flow diagram 800 of a network 806 initiated model transfer ( "Alt. B" ) where the UE 804 transfers the model to a UE side server 802 for optimization and the UE 804 confirms model transfer from the network 806 is necessary, according to embodiments herein. In some other cases, the UE 804 may confirm that model transfer from the network 806 is needed.

[0107] For example, the flow diagram 800 begins with the UE 804 reporting 808 to the network 806 support of model transfer z4, ( "Step B-0" discussed herein) . The network 806 may indicate 810 to the UE 804 candidate known model structure (s) ( "Step B-1"  discussed herein) . The UE 804 may report 812 the supported model structure (s) (indicated in “Step B-1” ) to the network 806 ( "Step B-2" discussed herein) .

[0108] The network 806 may announce 814 a model ID and / or a model association ID to the UE 804. In some instances, the network 806 may announce 814 the version number and optional meta information of the model to the UE 804. The combination of information represents the parameters for this model structure. In some examples, with the same association ID and / or model ID, the network 806 may still update parameters (as new data collected) , and version number (or time stamp) can be used to differentiate between the updated and non-updated parameters. Additionally, the meta information of the model may be optional information for the UE 804 as to know more detailed information about the model structure and which set of parameters are fixed and which set of parameters may be updated.

[0109] The UE 804 may perform 816 a UE 804 to UE side server 802 inquiry of whether the same copy of the model and / or the model structure (s) is already transferred to the UE side server 802 by other devices (e.g., other UEs) . In some cases, the inquiry may take the form of 3GPP based signaling (e.g., UCI, DCI, MAC CE) . In some other cases, the inquiry may take the form of signaling that is not specified by 3GPP and is transparent to 3GPP (e.g., WIFI, Bluetooth) .

[0110] If the performed inquiry concludes that a same copy of the model and / or model structure (s) is not stored at the UE side server 802 (i.e., not available) , the UE side server 802 may send a response 818 to the UE 804 confirming that the model is not stored and not available, thus model transfer is needed. The UE 804 may confirm 820 to the network 806 that model transfer from the network 806 is needed.

[0111] The network 806 may perform “Step B-3” and transfer 822 to the UE 804 the parameters for one or more of the supported known model structure (s) reported in “Step B-2” . Accordingly, the UE 804 may perform model transfer 824 to the UE side server 802 and the UE side server 802 may optimize 826 the transferred model at the UE side server 802.

[0112] The UE side server 802 may transfer 828 the optimized model to the UE 804 and the UE 804 may indicate 830 to the network 806 that the model is ready to perform inferencing.

[0113] The indications to confirm whether model is available and the indication to confirm whether model is ready to perform inference can be the same message or two  messages. The indications may be sent via, for example, a UE assistance information (UAI) message or in an uplink (UL) medium access control (MAC) control element (CE) (MAC CE) .

[0114] If a UAI message is used, it may include additional information for each network announced model ID / association ID. The additional information may include, for example, the status information of the model, including if it is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.

[0115] In cases of the status of the model being that the model is not available due to on-going training, the UE may send another UAI message when the training is complete. In cases of the status of the model being that the model is not available due to inconsistent network-sided conditions, the UE may optionally include the model IDs / association IDs of available models in the message. In cases of the status of the model being available but needing updated parameters, the message may optionally include the latest version number of the model. If the UL MAC-CE is used, the UL MAC-CE may include a code point mapping to the above discussed model status information.

[0116] The UL indication message (e.g., the UAI message or the UL MAC CE) may be used for embodiments herein discussing both “Alt A” and “Alt B” , and “case 1” and “case 2” .

[0117] FIG. 9 illustrates a method 900 performed by a UE, according to embodiments herein. The illustrated method 900 includes reporting 902, to a network node, one or more supported known model structures. The method 900 further includes receiving 904, from the network node, parameters for at least a first known model from the one or more supported known model structures. The method 900 further includes sending 906, to the network node, a first indication of whether the first known model is available to the UE or whether a model transfer from the network node is needed. The method 900 further includes sending 908, to the network node, a second indication that the UE is ready to perform inferencing using the first known model.

[0118] In some embodiments, the method 900 further comprises reporting, to the network node, a capability of on device compiling the one or more supported known model structures.

[0119] In some embodiments of the method 900, the first indication and the second indication are sent in one message.

[0120] In some embodiments, the method 900 further comprises receiving, from the network node, parameters for the first known model in response to the first indication indicating that the model transfer from the network node is needed.

[0121] In some embodiments, the method 900 further comprises receiving, from the network node, an indication of one or more candidate known model structures, wherein the one or more supported known model structures that are reported to the network node comprise model structures from the one or more candidate known model structures.

[0122] In some embodiments, the method 900 further comprises receiving, from the network node, at least one of a model ID, an association ID, version number, or meta information of the first known model.

[0123] In some embodiments, the method 900 further comprises sending, to a UE side server, an inquiry of whether the first known model is already transferred to the UE side server by other UEs, and receiving, from the UE side server, a response to the inquiry.

[0124] In some embodiments of the method 900, the first indication and the second indication are sent via a UAI message that includes status information of the first known model.

[0125] In some embodiments of the method 900, the first indication and the second indication are sent via a UL MAC-CE message that includes code point mapping to status information of the first known model.

[0126] FIG. 10 illustrates a method 1000 performed by a network node, according to embodiments herein. The illustrated method 1000 includes receiving 1002, from a UE, a report of one or more supported known model structures. The method 1000 further includes sending 1004, to the UE, parameters for at least a first known model from the one or more supported known model structures. The method 1000 further includes receiving 1006, from the UE, a first indication of whether the first known model is available to the UE or whether a model transfer from the network node is needed. The  method 1000 further includes receiving 1008, from the UE, a second indication that the UE is ready to perform inferencing using the first known model.

[0127] In some embodiments, the method 1000 further comprises receiving, from the UE, a capability of on device compiling the one or more supported known model structures.

[0128] In some embodiments of the method 1000, the first indication and the second indication are received in one message.

[0129] In some embodiments, the method 1000 further comprises sending, to the UE, parameters for the first known model in response to the first indication indicating that the model transfer from the network node is needed.

[0130] In some embodiments, the method 1000 further comprises sending, to the UE, an indication of one or more candidate known model structures, wherein the one or more supported known model structures that are reported by the UE comprise model structures from the one or more candidate known model structures.

[0131] In some embodiments, the method 1000 further comprises sending, to the UE, at least one of a model ID, an association ID, version number, or meta information of the first known model.

[0132] In some embodiments of the method 1000, the first indication and the second indication are received via a UAI message that includes status information of the first known model.

[0133] In some embodiments of the method 1000, the first indication and the second indication are received via a UL MAC-CE message that includes code point mapping to status information of the first known model.

[0134] FIG. 11 illustrates an example architecture of a wireless communication system 1100, according to embodiments disclosed herein. The following description is provided for an example wireless communication system 1100 that operates in conjunction with the LTE system standards and / or 5G or NR system standards as provided by 3GPP technical specifications.

[0135] As shown by FIG. 11, the wireless communication system 1100 includes UE 1102 and UE 1104 (although any number of UEs may be used) . In this example, the UE 1102 and the UE 1104 are illustrated as smartphones (e.g., handheld touchscreen mobile  computing devices connectable to one or more cellular networks) , but may also comprise any mobile or non-mobile computing device configured for wireless communication.

[0136] The UE 1102 and UE 1104 may be configured to communicatively couple with a RAN 1106. In embodiments, the RAN 1106 may be NG-RAN, E-UTRAN, etc. The UE 1102 and UE 1104 utilize connections (or channels) (shown as connection 1108 and connection 1110, respectively) with the RAN 1106, each of which comprises a physical communications interface. The RAN 1106 can include one or more base stations (such as base station 1112 and base station 1114) that enable the connection 1108 and connection 1110.

[0137] In this example, the connection 1108 and connection 1110 are air interfaces to enable such communicative coupling, and may be consistent with RAT (s) used by the RAN 1106, such as, for example, an LTE and / or NR.

[0138] In some embodiments, the UE 1102 and UE 1104 may also directly exchange communication data via a sidelink interface 1116. The UE 1104 is shown to be configured to access an access point (shown as AP 1118) via connection 1120. By way of example, the connection 1120 can comprise a local wireless connection, such as a connection consistent with any IEEE 802.11 protocol, wherein the AP 1118 may comprise a router. In this example, the AP 1118 may be connected to another network (for example, the Internet) without going through a CN 1124.

[0139] In embodiments, the UE 1102 and UE 1104 can be configured to communicate using orthogonal frequency division multiplexing (OFDM) communication signals with each other or with the base station 1112 and / or the base station 1114 over a multicarrier communication channel in accordance with various communication techniques, such as, but not limited to, an orthogonal frequency division multiple access (OFDMA) communication technique (e.g., for downlink communications) or a single carrier frequency division multiple access (SC-FDMA) communication technique (e.g., for uplink and ProSe or sidelink communications) , although the scope of the embodiments is not limited in this respect. The OFDM signals can comprise a plurality of orthogonal subcarriers.

[0140] In some embodiments, all or parts of the base station 1112 or base station 1114 may be implemented as one or more software entities running on server computers as part of a virtual network. In addition, or in other embodiments, the base station 1112 or base station 1114 may be configured to communicate with one another via interface  1122. In embodiments where the wireless communication system 1100 is an LTE system (e.g., when the CN 1124 is an EPC) , the interface 1122 may be an X2 interface. The X2 interface may be defined between two or more base stations (e.g., two or more eNBs and the like) that connect to an EPC, and / or between two eNBs connecting to the EPC. In embodiments where the wireless communication system 1100 is an NR system (e.g., when CN 1124 is a 5GC) , the interface 1122 may be an Xn interface. The Xn interface is defined between two or more base stations (e.g., two or more gNBs and the like) that connect to 5GC, between a base station 1112 (e.g., a gNB) connecting to 5GC and an eNB, and / or between two eNBs connecting to 5GC (e.g., CN 1124) .

[0141] The RAN 1106 is shown to be communicatively coupled to the CN 1124. The CN 1124 may comprise one or more network elements 1126, which are configured to offer various data and telecommunications services to customers / subscribers (e.g., users of UE 1102 and UE 1104) who are connected to the CN 1124 via the RAN 1106. The components of the CN 1124 may be implemented in one physical device or separate physical devices including components to read and execute instructions from a machine-readable or computer-readable medium (e.g., a non-transitory machine-readable storage medium) .

[0142] In embodiments, the CN 1124 may be an EPC, and the RAN 1106 may be connected with the CN 1124 via an S1 interface 1128. In embodiments, the S1 interface 1128 may be split into two parts, an S1 user plane (S1-U) interface, which carries traffic data between the base station 1112 or base station 1114 and a serving gateway (S-GW) , and the S1-MME interface, which is a signaling interface between the base station 1112 or base station 1114 and mobility management entities (MMEs) .

[0143] In embodiments, the CN 1124 may be a 5GC, and the RAN 1106 may be connected with the CN 1124 via an NG interface 1128. In embodiments, the NG interface 1128 may be split into two parts, an NG user plane (NG-U) interface, which carries traffic data between the base station 1112 or base station 1114 and a user plane function (UPF) , and the S1 control plane (NG-C) interface, which is a signaling interface between the base station 1112 or base station 1114 and access and mobility management functions (AMFs) .

[0144] Generally, an application server 1130 may be an element offering applications that use internet protocol (IP) bearer resources with the CN 1124 (e.g., packet switched data services) . The application server 1130 can also be configured to support one or  more communication services (e.g., VoIP sessions, group communication sessions, etc. ) for the UE 1102 and UE 1104 via the CN 1124. The application server 1130 may communicate with the CN 1124 through an IP communications interface 1132.

[0145] FIG. 12 illustrates a system 1200 for performing signaling 1234 between a wireless device 1202 and a network device 1218, according to embodiments disclosed herein. The system 1200 may be a portion of a wireless communications system as herein described. The wireless device 1202 may be, for example, a UE of a wireless communication system. The network device 1218 may be, for example, a base station (e.g., an eNB or a gNB) of a wireless communication system.

[0146] The wireless device 1202 may include one or more processor (s) 1204. The processor (s) 1204 may execute instructions such that various operations of the wireless device 1202 are performed, as described herein. The processor (s) 1204 may include one or more baseband processors implemented using, for example, a central processing unit (CPU) , a digital signal processor (DSP) , an application specific integrated circuit (ASIC) , a controller, a field programmable gate array (FPGA) device, another hardware device, a firmware device, or any combination thereof configured to perform the operations described herein.

[0147] The wireless device 1202 may include a memory 1206. The memory 1206 may be a non-transitory computer-readable storage medium that stores instructions 1208 (which may include, for example, the instructions being executed by the processor (s) 1204) . The instructions 1208 may also be referred to as program code or a computer program. The memory 1206 may also store data used by, and results computed by, the processor (s) 1204.

[0148] The wireless device 1202 may include one or more transceiver (s) 1210 that may include radio frequency (RF) transmitter circuitry and / or receiver circuitry that use the antenna (s) 1212 of the wireless device 1202 to facilitate signaling (e.g., the signaling 1234) to and / or from the wireless device 1202 with other devices (e.g., the network device 1218) according to corresponding RATs.

[0149] The wireless device 1202 may include one or more antenna (s) 1212 (e.g., one, two, four, or more) . For embodiments with multiple antenna (s) 1212, the wireless device 1202 may leverage the spatial diversity of such multiple antenna (s) 1212 to send and / or receive multiple different data streams on the same time and frequency resources. This behavior may be referred to as, for example, multiple input multiple output (MIMO)  behavior (referring to the multiple antennas used at each of a transmitting device and a receiving device that enable this aspect) . MIMO transmissions by the wireless device 1202 may be accomplished according to precoding (or digital beamforming) that is applied at the wireless device 1202 that multiplexes the data streams across the antenna (s) 1212 according to known or assumed channel characteristics such that each data stream is received with an appropriate signal strength relative to other streams and at a desired location in the spatial domain (e.g., the location of a receiver associated with that data stream) . Certain embodiments may use single user MIMO (SU-MIMO) methods (where the data streams are all directed to a single receiver) and / or multiuser MIMO (MU-MIMO) methods (where individual data streams may be directed to individual (different) receivers in different locations in the spatial domain) .

[0150] In certain embodiments having multiple antennas, the wireless device 1202 may implement analog beamforming techniques, whereby phases of the signals sent by the antenna (s) 1212 are relatively adjusted such that the (joint) transmission of the antenna (s) 1212 can be directed (this is sometimes referred to as beam steering) .

[0151] The wireless device 1202 may include one or more interface (s) 1214. The interface (s) 1214 may be used to provide input to or output from the wireless device 1202. For example, a wireless device 1202 that is a UE may include interface (s) 1214 such as microphones, speakers, a touchscreen, buttons, and the like in order to allow for input and / or output to the UE by a user of the UE. Other interfaces of such a UE may be made up of transmitters, receivers, and other circuitry (e.g., other than the transceiver (s) 1210 / antenna (s) 1212 already described) that allow for communication between the UE and other devices and may operate according to known protocols (e.g.,  and the like) .

[0152] The wireless device 1202 may include a model transfer module 1216. The model transfer module 1216 may be implemented via hardware, software, or combinations thereof. For example, the model transfer module 1216 may be implemented as a processor, circuit, and / or instructions 1208 stored in the memory 1206 and executed by the processor (s) 1204. In some examples, the model transfer module 1216 may be integrated within the processor (s) 1204 and / or the transceiver (s) 1210. For example, the model transfer module 1216 may be implemented by a combination of software components (e.g., executed by a DSP or a general processor) and hardware components (e.g., logic gates and circuitry) within the processor (s) 1204 or the transceiver (s) 1210.

[0153] The model transfer module 1216 may be used for various aspects of the present disclosure, for example, aspects of FIG. 1, FIG. 2, FIG. 3, FIG. 4, FIG. 5, FIG. 6, FIG. 7, FIG. 8 and / or FIG. 9. The model transfer module 1216 is configured to cause the wireless device 1202 to report, to a network device 1218, one or more supported known model structures. The model transfer module 1216 is further configured to cause the wireless device 1202 to receive, from the network device 1218, parameters for at least a first known model from the one or more supported known model structures. The model transfer module 1216 is further configured to cause the wireless device 1202 to send, to the network device 1218, a first indication of whether the first known model is available to the wireless device 1202 or whether a model transfer from the network device 1218 is needed. The model transfer module 1216 is further configured to cause the wireless device 1202 to send, to the network device 1218, a second indication that the wireless device 1202 is ready to perform inferencing using the first known model.

[0154] The network device 1218 may include one or more processor (s) 1220. The processor (s) 1220 may execute instructions such that various operations of the network device 1218 are performed, as described herein. The processor (s) 1220 may include one or more baseband processors implemented using, for example, a CPU, a DSP, an ASIC, a controller, an FPGA device, another hardware device, a firmware device, or any combination thereof configured to perform the operations described herein.

[0155] The network device 1218 may include a memory 1222. The memory 1222 may be a non-transitory computer-readable storage medium that stores instructions 1224 (which may include, for example, the instructions being executed by the processor (s) 1220) . The instructions 1224 may also be referred to as program code or a computer program. The memory 1222 may also store data used by, and results computed by, the processor (s) 1220.

[0156] The network device 1218 may include one or more transceiver (s) 1226 that may include RF transmitter circuitry and / or receiver circuitry that use the antenna (s) 1228 of the network device 1218 to facilitate signaling (e.g., the signaling 1234) to and / or from the network device 1218 with other devices (e.g., the wireless device 1202) according to corresponding RATs.

[0157] The network device 1218 may include one or more antenna (s) 1228 (e.g., one, two, four, or more) . In embodiments having multiple antenna (s) 1228, the network  device 1218 may perform MIMO, digital beamforming, analog beamforming, beam steering, etc., as has been described.

[0158] The network device 1218 may include one or more interface (s) 1230. The interface (s) 1230 may be used to provide input to or output from the network device 1218. For example, a network device 1218 that is a base station may include interface (s) 1230 made up of transmitters, receivers, and other circuitry (e.g., other than the transceiver (s) 1226 / antenna (s) 1228 already described) that enables the base station to communicate with other equipment in a core network, and / or that enables the base station to communicate with external networks, computers, databases, and the like for purposes of operations, administration, and maintenance of the base station or other equipment operably connected thereto.

[0159] The network device 1218 may include a model transfer module 1232. The model transfer module 1232 may be implemented via hardware, software, or combinations thereof. For example, the model transfer module 1232 may be implemented as a processor, circuit, and / or instructions 1224 stored in the memory 1222 and executed by the processor (s) 1220. In some examples, the model transfer module 1232 may be integrated within the processor (s) 1220 and / or the transceiver (s) 1226. For example, the model transfer module 1232 may be implemented by a combination of software components (e.g., executed by a DSP or a general processor) and hardware components (e.g., logic gates and circuitry) within the processor (s) 1220 or the transceiver (s) 1226.

[0160] The model transfer module 1232 may be used for various aspects of the present disclosure, for example, aspects of FIG. 1, FIG. 2, FIG. 3, FIG. 4, FIG. 5, FIG. 6, FIG. 7, FIG. 8 and / or FIG. 10. The model transfer module 1232 is configured to cause the network device 1218 to receive, from a wireless device 1202, a report of one or more supported known model structures. The model transfer module 1232 is further configured to cause the network device 1218 to send, to the wireless device 1202, parameters for at least a first known model from the one or more supported known model structures. The model transfer module 1232 is further configured to cause the network device 1218 to receive, from the wireless device 1202, a first indication of whether the first known model is available to the UE or whether a model transfer from the network device 1218 is needed. The model transfer module 1232 is further configured to cause the network device 1218 to receive, from the wireless device 1202, a second indication  that the wireless device 1202 is ready to perform inferencing using the first known model.

[0161] Embodiments contemplated herein include an apparatus comprising means to perform one or more elements of the method 900. This apparatus may be, for example, an apparatus of a UE (such as a wireless device 1202 that is a UE, as described herein) .

[0162] Embodiments contemplated herein include one or more non-transitory computer-readable media comprising instructions to cause an electronic device, upon execution of the instructions by one or more processors of the electronic device, to perform one or more elements of the method 900. This non-transitory computer-readable media may be, for example, a memory of a UE (such as a memory 1206 of a wireless device 1202 that is a UE, as described herein) .

[0163] Embodiments contemplated herein include an apparatus comprising logic, modules, or circuitry to perform one or more elements of the method 900. This apparatus may be, for example, an apparatus of a UE (such as a wireless device 1202 that is a UE, as described herein) .

[0164] Embodiments contemplated herein include an apparatus comprising: one or more processors and one or more computer-readable media comprising instructions that, when executed by the one or more processors, cause the one or more processors to perform one or more elements of the method 900. This apparatus may be, for example, an apparatus of a UE (such as a wireless device 1202 that is a UE, as described herein) .

[0165] Embodiments contemplated herein include a signal as described in or related to one or more elements of the method 900.

[0166] Embodiments contemplated herein include a computer program or computer program product comprising instructions, wherein execution of the program by a processor is to cause the processor to carry out one or more elements of the method 900. The processor may be a processor of a UE (such as a processor (s) 1204 of a wireless device 1202 that is a UE, as described herein) . These instructions may be, for example, located in the processor and / or on a memory of the UE (such as a memory 1206 of a wireless device 1202 that is a UE, as described herein) .

[0167] Embodiments contemplated herein include an apparatus comprising means to perform one or more elements of the method 1000. This apparatus may be, for example, an apparatus of a base station (such as a network device 1218 that is a base station, as described herein) .

[0168] Embodiments contemplated herein include one or more non-transitory computer-readable media comprising instructions to cause an electronic device, upon execution of the instructions by one or more processors of the electronic device, to perform one or more elements of the method 1000. This non-transitory computer-readable media may be, for example, a memory of a base station (such as a memory 1222 of a network device 1218 that is a base station, as described herein) .

[0169] Embodiments contemplated herein include an apparatus comprising logic, modules, or circuitry to perform one or more elements of the method 1000. This apparatus may be, for example, an apparatus of a base station (such as a network device 1218 that is a base station, as described herein) .

[0170] Embodiments contemplated herein include an apparatus comprising: one or more processors and one or more computer-readable media comprising instructions that, when executed by the one or more processors, cause the one or more processors to perform one or more elements of the method 1000. This apparatus may be, for example, an apparatus of a base station (such as a network device 1218 that is a base station, as described herein) .

[0171] Embodiments contemplated herein include a signal as described in or related to one or more elements of the method 1000.

[0172] Embodiments contemplated herein include a computer program or computer program product comprising instructions, wherein execution of the program by a processing element is to cause the processing element to carry out one or more elements of the method 1000. The processor may be a processor of a base station (such as a processor (s) 1220 of a network device 1218 that is a base station, as described herein) . These instructions may be, for example, located in the processor and / or on a memory of the base station (such as a memory 1222 of a network device 1218 that is a base station, as described herein) .

[0173] For one or more embodiments, at least one of the components set forth in one or more of the preceding figures may be configured to perform one or more operations, techniques, processes, and / or methods as set forth herein. For example, a baseband processor as described herein in connection with one or more of the preceding figures may be configured to operate in accordance with one or more of the examples set forth herein. For another example, circuitry associated with a UE, base station, network element, etc. as described above in connection with one or more of the preceding figures  may be configured to operate in accordance with one or more of the examples set forth herein.

[0174] Any of the above described embodiments may be combined with any other embodiment (or combination of embodiments) , unless explicitly stated otherwise. The foregoing description of one or more implementations provides illustration and description, but is not intended to be exhaustive or to limit the scope of embodiments to the precise form disclosed. Modifications and variations are possible in light of the above teachings or may be acquired from practice of various embodiments.

[0175] Embodiments and implementations of the systems and methods described herein may include various operations, which may be embodied in machine-executable instructions to be executed by a computer system. A computer system may include one or more general-purpose or special-purpose computers (or other electronic devices) . The computer system may include hardware components that include specific logic for performing the operations or may include a combination of hardware, software, and / or firmware.

[0176] It should be recognized that the systems described herein include descriptions of specific embodiments. These embodiments can be combined into single systems, partially combined into other systems, split into multiple systems or divided or combined in other ways. In addition, it is contemplated that parameters, attributes, aspects, etc. of one embodiment can be used in another embodiment. The parameters, attributes, aspects, etc. are merely described in one or more embodiments for clarity, and it is recognized that the parameters, attributes, aspects, etc. can be combined with or substituted for parameters, attributes, aspects, etc. of another embodiment unless specifically disclaimed herein.

[0177] It is well understood that the use of personally identifiable information should follow privacy policies and practices that are generally recognized as meeting or exceeding industry or governmental requirements for maintaining the privacy of users. In particular, personally identifiable information data should be managed and handled so as to minimize risks of unintentional or unauthorized access or use, and the nature of authorized use should be clearly indicated to users.

[0178] Although the foregoing has been described in some detail for purposes of clarity, it will be apparent that certain changes and modifications may be made without departing from the principles thereof. It should be noted that there are many alternative  ways of implementing both the processes and apparatuses described herein. Accordingly, the present embodiments are to be considered illustrative and not restrictive, and the description is not to be limited to the details given herein, but may be modified within the scope and equivalents of the appended claims.

Claims

1.A method performed by a user equipment (UE) , the method comprising:reporting, to a network node, one or more supported known model structures;receiving, from the network node, parameters for at least a first known model from the one or more supported known model structures;sending, to the network node, a first indication of whether the first known model is available to the UE or whether a model transfer from the network node is needed; andsending, to the network node, a second indication that the UE is ready to perform inferencing using the first known model.2.The method of claim 1, further comprising reporting, to the network node, a capability of on device compiling the one or more supported known model structures.3.The method of claim 1, wherein the first indication and the second indication are sent in one message.4.The method of claim 1, further comprising receiving, from the network node, parameters for the first known model in response to the first indication indicating that the model transfer from the network node is needed.5.The method of claim 1, further comprising:receiving, from the network node, an indication of one or more candidate known model structures,wherein the one or more supported known model structures that are reported to the network node comprise model structures from the one or more candidate known model structures.6.The method of claim 1, further comprising receiving, from the network node, at least one of a model identifier (ID) , an association ID, version number, or meta information of the first known model.7.The method of claim 1, further comprising:sending, to a UE side server, an inquiry of whether the first known model is already transferred to the UE side server by other UEs; andreceiving, from the UE side server, a response to the inquiry.8.The method of claim 1, wherein the first indication and the second indication are sent via a UE assistance information (UAI) message that includes status information of the first known model.9.The method of claim 8, wherein the status information indicates if the first known model is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.10.The method of claim 1, wherein the first indication and the second indication are sent via an uplink medium access control control element (UL MAC-CE) message that includes code point mapping to status information of the first known model.11.A method performed by a network node, the method comprising:receiving, from a user equipment (UE) , a report of one or more supported known model structures;sending, to the UE, parameters for at least a first known model from the one or more supported known model structures;receiving, from the UE, a first indication of whether the first known model is available to the UE or whether a model transfer from the network node is needed; andreceiving, from the UE, a second indication that the UE is ready to perform inferencing using the first known model.12.The method of claim 11, further comprising receiving, from the UE, a capability of on device compiling the one or more supported known model structures.13.The method of claim 11, wherein the first indication and the second indication are received in one message.14.The method of claim 11, further comprising sending, to the UE, parameters for the first known model in response to the first indication indicating that the model transfer from the network node is needed.15.The method of claim 11, further comprising:sending, to the UE, an indication of one or more candidate known model structures,wherein the one or more supported known model structures that are reported by the UE comprise model structures from the one or more candidate known model structures.16.The method of claim 11, further comprising sending, to the UE, at least one of a model identifier (ID) , an association ID, version number, or meta information of the first known model.17.The method of claim 11, wherein the first indication and the second indication are received via a UE assistance information (UAI) message that includes status information of the first known model.18.The method of claim 17, wherein the status information indicates if the first known model is not available due to training is on-going, not available due to inconsistent network-sided conditions, not available due to no sufficient UE battery, not available due to no sufficient memory resource, not available due to no sufficient computation resource, available but needs initial parameters, available but needs updated parameters, or is ready to perform inferencing.19.The method of claim 11, wherein the first indication and the second indication are received via an uplink medium access control control element (UL MAC-CE) message that includes code point mapping to status information of the first known model.20.An apparatus comprising means to perform the method of any of claim 1 to claim 19.21.A computer-readable media comprising instructions to cause an electronic device, upon execution of the instructions by one or more processors of the electronic device, to perform the method of any of claim 1 to claim 19.22.A computer-readable media comprising instructions to cause an electronic device, upon execution of the instructions by one or more processors of the electronic device, to perform the method of any of claim 1 to claim 19.23.An apparatus comprising logic, modules, or circuitry to perform the method of any of claim 1 to claim 19.24.A system for providing wireless communication comprising means to perform the method of any of claim 1 to claim19.25.A baseband processor for a user equipment (UE) that is configured to cause the UE to perform one or more elements of the method of any of claims 1-10.26.A baseband processor for a base station that is configured to cause the base station to perform one or more elements of the method of any of claims 11-19.

Images