Systems and methods for training artificial intelligence / machine learning models using federated learning for enhanced generalization

Abstract

Systems and methods for training artificial intelligence (AI) / machine learning (ML) models using federated learning for enhanced generalization are discussed herein. A base station distributes, to a first user equipment (UE) and a second UE, a first global AI / ML model, receives, from the first UE, in response to distributing the first global AI / ML model to the first UE, first model update parameters for the first global AI / ML model, receives, from the second UE, in response to distributing the first global AI / ML model to the second UE, second model update parameters for the first global AI / ML model, performs an update of the first global AI / ML model into a second global AI / ML model using the first model update parameters and the second model update parameters, and distributes, to the first UE and the second UE, the second global AI / ML model. Corresponding UE behaviors are also discussed.

Description

SYSTEMS AND METHODS FOR TRAINING ARTIFICIAL INTELLIGENCE / MACHINE LEARNING MODELS USING FEDERATED LEARNING FOR ENHANCED GENERALIZATIONTECHNICAL FIELD

[0001] This application relates generally to wireless communication systems, including wireless communication systems using artificial intelligence (AI)  / machine learning (ML) models.BACKGROUND

[0002] Wireless mobile communication technology uses various standards and protocols to transmit data between a base station and a wireless communication device. Wireless communication system standards and protocols can include, for example, 3rd Generation Partnership Project (3GPP) Long Term Evolution (LTE) (e.g., 4G) , 3GPP New Radio (NR) (e.g., 5G) , and Institute of Electrical and Electronics Engineers (IEEE) 802.11 standard for Wireless Local Area Networks (WLAN) (commonly known to industry groups as ) .

[0003] As contemplated by the 3GPP, different wireless communication systems' standards and protocols can use various radio access networks (RANs) for communicating between a base station of the RAN (which may also sometimes be referred to generally as a RAN node, a network node, or simply a node) and a wireless communication device known as a user equipment (UE) . 3GPP RANs can include, for example, Global System for Mobile communications (GSM) , Enhanced Data Rates for GSM Evolution (EDGE) RAN (GERAN) , Universal Terrestrial Radio Access Network (UTRAN) , Evolved Universal Terrestrial Radio Access Network (E-UTRAN) , and / or Next-Generation Radio Access Network (NG-RAN) .

[0004] Each RAN may use one or more radio access technologies (RATs) to perform communication between the base station and the UE. For example, the GERAN implements GSM and / or EDGE RAT, the UTRAN implements Universal Mobile Telecommunication System (UMTS) RAT or other 3GPP RAT, the E-UTRAN implements LTE RAT (sometimes simply referred to as LTE) , and NG-RAN implements NR RAT (sometimes referred to herein as 5G RAT, 5G NR RAT, or simply NR) . In  certain deployments, the E-UTRAN may also implement NR RAT. In certain deployments, NG-RAN may also implement LTE RAT.

[0005] A base station used by a RAN may correspond to that RAN. One example of an E-UTRAN base station is an Evolved Universal Terrestrial Radio Access Network (E-UTRAN) Node B (also commonly denoted as evolved Node B, enhanced Node B, eNodeB, or eNB) . One example of an NG-RAN base station is a next generation Node B (also sometimes referred to as a g Node B or gNB) .

[0006] A RAN provides its communication services with external entities through its connection to a core network (CN) . For example, E-UTRAN may utilize an Evolved Packet Core (EPC) while NG-RAN may utilize a 5G Core Network (5GC) .

[0007] Frequency bands for 5G NR may be separated into two or more different frequency ranges. For example, Frequency Range 1 (FR1) may include frequency bands operating in sub-6 gigahertz (GHz) frequencies, some of which are bands that may be used by previous standards, and may potentially be extended to cover new spectrum offerings from 410 megahertz (MHz) to 7125 MHz. Frequency Range 2 (FR2) may include frequency bands from 24.25 GHz to 52.6 GHz. Note that in some systems, FR2 may also include frequency bands from 52.6 GHz to 71 GHz (or beyond) . Bands in the millimeter wave (mmWave) range of FR2 may have smaller coverage but potentially higher available bandwidth than bands in FR1. Skilled persons will recognize these frequency ranges, which are provided by way of example, may change from time to time or from region to region.

[0008] BRIEF DESCRIPTION OF THE SEVERAL VIEWS OF THE DRAWINGS

[0009] To easily identify the discussion of any particular element or act, the most significant digit or digits in a reference number refer to the figure number in which that element is first introduced.

[0010] FIG. 1 illustrates a diagram of an FL-based distributed training framework, according to embodiments discussed herein.

[0011] FIG. 2 illustrates a diagram showing the use of fine-tuning as part of personalized FL, according to embodiments herein.

[0012] FIG. 3 illustrates a method of a UE, according to embodiments discussed herein.

[0013] FIG. 4 illustrates a method of a base station, according to embodiments discussed herein.

[0014] FIG. 5 illustrates an example architecture of a wireless communication system, according to embodiments disclosed herein.

[0015] FIG. 6 illustrates a system for performing signaling between a wireless device and a network device, according to embodiments disclosed herein.DETAILED DESCRIPTION

[0016] Various embodiments are described with regard to a UE. However, reference to a UE is merely provided for illustrative purposes. The example embodiments may be utilized with any electronic component that may establish a connection to a network and is configured with the hardware, software, and / or firmware to exchange information and data with the network. Therefore, the UE as described herein is used to represent any appropriate electronic component.

[0017] Various existing mechanisms for downlink (DL) artificial intelligence (AI)  / machine learning (ML) -based channel state information (CSI) feedback assume that large datasets of CSI in / from a target environment are easily determinable / available. However, in real-world applications of wireless communication systems, this assumption often breaks down. An environment for a UE can, in practice, change dynamically (due to mobility, interference, etc. ) , and obtaining a substantial amount of CSI data from correspondingly new target environments can be challenging, time-consuming, and / or impractical.

[0018] Further, such offline-collected-datasets often don't represent actual channel conditions in a present target environment, which leads to mismatch between a learned model and real-world scenarios. This mismatch results in suboptimal feedback performance, making it difficult to generalize the AI / ML model effectively across different environments.

[0019] Accordingly, there is a strong need for practical online AI / ML model training methods for DL-based CSI feedback in real-world systems. Online training mechanisms can adapt AI / ML models in real-time to the continuously changing wireless environments, without relying on large pre-collected datasets that may not be representative.

[0020] Various strategies for online training are now considered. A first such strategy is online fine-tuning. In online fine-tuning, a pre-trained AI / ML model (trained on simulated or historical data) is fine-tuned online with real-time CSI data collected from a  current environment. This can reduce the amount of data needed for re-training while adapting to the environment.

[0021] Another such strategy is reinforcement learning (RL) . RL can be employed to optimize feedback by continuously learning from the environment. In RL, a feedback loop allows an AI / ML model to learn an optimal policy that maximizes performance as it receives CSI over time.

[0022] Another such strategy is meta-learning (MAML) . MAML can be a powerful tool, enabling an AI / ML model to be trained in a way that it becomes configured to quickly adapt to new environments using only a few additional samples. In real systems, this means that an AI / ML model can be initially pre-trained on multiple different environments and then later fine-tuned using minimal new data for a current / updated environment.

[0023] Embodiments herein relate to AI / ML models for CSI feedback. An AI / ML model for CSI feedback include two parts: an encoder that is used at a transmitter to compress CSI data (e.g., as generated at the transmitter based on a received reference signal) and a decoder that is used at the receiver to decompress / reconstruct the original CSI data. Note that the compression prior to transmission allows for the CSI information to be sent by the transmitter to the receiver using relatively fewer signaling resources. As this type of AI / ML model has parts that operate at both the transmitter and the receiver, it may be considered a “two-sided” AI / ML model. Note that in some instances herein an AI / ML model for CSI feedback is referred to as / be understood to include an “autoencoder, ” an “autoencoder network, ” or the like.

[0024] Two approaches, individual learning (IL) and centralized learning (CL) , are now discussed for purposes of online AI / ML model training in the case of DL-based CSI feedback.

[0025] Under the IL approach, each UE independently trains a private autoencoder network for CSI compression and reconstruction using any local CSI datasets. However, as the observations of the local datasets are limited, this may lead to suboptimal generalization capabilities for the AI / ML model. Moreover, storage limitations may prevent UEs from gathering sufficient CSI samples to train an effective autoencoder network, resulting in suboptimal CSI feedback when using the AI / ML model.

[0026] In some embodiments of an IL approach, each UE trains its own autoencoder network using its local CSI dataset. In other words, the UE's local dataset is used to train  a private AI / ML model for CSI compression (for use at the transmitter) and reconstruction (for use at the receiver) . This means that the model is highly tailored to that particular UE's channel conditions.

[0027] The use of IL invokes various privacy and personalization aspects. For example, under IL, the UE doesn't need to share its CSI data with other users and / or with a central server. This ensures data privacy. This can be particularly important in systems where privacy is a concern.

[0028] The use of IL invokes various aspects related to adaptation to specific environments. For example, under IL, since each UE independently trains its own AI / ML model on its own data, the AI / ML model at any given UE is highly specialized to the local channel conditions of that specific UE.

[0029] The use of IL invokes various resource intensity aspects. For example, when relying on IL, each UE needs sufficient computational resources to perform individual AI / ML model training. This may not be practical for all UEs (consider, e.g., the case of relatively resource-constrained UEs) .

[0030] The use of IL invokes various limited generalization aspects. For example, AI / ML models trained only on local data at a given UE may not generalize well to new channel conditions or environments. This is a consideration under IL where each UE’s AI / ML model remains isolated / does not benefit from knowledge learned by other UEs.

[0031] Under the CL approach, a (same / single) global autoencoder network is trained for multiple / all UEs. The UEs first transmit their local CSI datasets to a central server, which aggregates these datasets to train the global autoencoder. This global AI / ML model is then distributed back to the UEs for in-field CSI feedback inferencing purposes. The generalization capability of this kind of global autoencoder network is usually superior to that of private autoencoder networks trained through IL due to the larger dataset.

[0032] The use of CL invokes various shared knowledge aspects. For example, in CL, the global model is trained on a dataset compiled from multiple UEs and thus is larger and / or more diverse as compared to the IL case. This allows the AI / ML model to generalize relatively better to various environments.

[0033] The use of CL invokes various higher training efficiency aspects. For example, the centralized training used in CL can leverage relatively more powerful computational  resources that may be available at a server, rather than relying on / requiring individual UEs to handle their training process individually.

[0034] The use of CL invokes various communication overhead aspects. For example, under CL, the UEs need to send their local CSI datasets to the central server, which can represent significant communication overhead / penalty (especially in large-scale systems, and / or when UEs are bandwidth-constrained) .

[0035] The use of CL invokes various privacy concern aspects. For example, the fact that under CL the UEs share their local CSI data with a central server can raise privacy concerns, particularly in sensitive applications where CSI data might reveal details about a user’s location or environment. As discussed, under CL, a base station can aggregate CSI samples from different UEs across various locations to form a mixed dataset. However, this approach raises concerns of privacy as the location information of the UEs can be partially or completely inferred from the collected CSI. Uploading CSI samples to the base station consequently heightens the risk of privacy disclosure / violation.

[0036] Embodiments herein propose a mechanism for federated learning (FL) . FL is a distributed ML approach that allows multiple clients (in this case, UEs) to reap the benefit of a collaboratively trained, shared AI / ML model while keeping their local data (CSI) private. In the context of CSI feedback, FL offers several advantages over IL and CL approaches.

[0037] A training process for FL is now discussed. Each UE locally trains an autoencoder network for performing CSI compression and reconstruction tasks using its own CSI dataset. Then, instead of sending the local CSI data to a central server, each UE sends the model parameters or gradients (e.g., updates to neural network weights) to a central server.

[0038] The central server aggregates the model updates from all participating UEs to form a global model. The updated global model is then distributed back to the UEs, and the process repeats until a global AI / ML model enjoys sufficient convergence.

[0039] The use of FL as discussed herein enjoys various advantages. A first advantage of FL is with respect to data privacy. Since raw CSI data never leaves the UE, FL significantly enhances privacy. In other words, under FL, only model update parameters (which don’t themselves reveal sensitive information about the local environment of the UE) are transmitted.

[0040] Another advantage of FL is with respect to relatively reduced communication overhead. In contrast to CL cases, where large CSI datasets need to be uploaded to a server, FL only uses periodic transmission of updated model parameters. This represents a relative reduction of the communication bandwidth needed.

[0041] Another advantage of FL is with respect to collaborative learning aspects. The use of FL allows UEs to benefit from collective knowledge (e.g., from knowledge learned by other UEs) without those UEs having to directly share their CSI data. The global AI / ML model from the central server is relatively more robust and generalizable to various environments over cases of IL, which is particularly useful when dealing with highly dynamic wireless channels.

[0042] Another advantage of LF is with respect to adaptation to local conditions. Under LF uses described herein, UEs can still fine-tune a global model that is received from a central server using their local CSI data (if needed / desired) , further ensuring that the model remains well-suited for specific channel conditions for that UE (while still leveraging insights represented from the broader dataset across the entire set of UEs) .

[0043] In summary, to simultaneously achieve strong generalization and protect privacy, online training in DL-based CSI feedback may adopt FL. Unlike CL, where all datasets are centralized at a server, FL maintains datasets locally (at individual UEs) to ensure data privacy. For AI / ML model training purposes, the central server schedules UEs to conduct local training and then to exchange AI / ML model parameters and / or gradient information with the central server. UEs correspondingly perform local training on their own CSI datasets, keeping data private, and only exchange AI / ML model parameter and / or gradient updates with the central server. The central server then aggregates these AI / ML model parameter and / or gradient updates to improve the global model.

[0044] In some embodiments, a base station aggregates the AI / ML model parameter and / or gradient updates for purposes of performing the update to the global autoencoder. In such cases, the base station and the UEs exchange only AI / ML model parameters and / or gradient information, thereby preserving the privacy of UEs (by not directly sharing CSI datasets of those UEs) .

[0045] This approach minimizes communication costs, addresses privacy concerns, and allows for scalable training in real-world wireless communication systems.

[0046] FIG. 1 illustrates a diagram 100 of an FL-based distributed training framework, according to embodiments discussed herein. First, model initialization 102 is performed. As part of the model initialization 102, a base station 104 initializes a first global AI / ML model 106.

[0047] The model initialization 102 may be based on a pretrained AI / ML model 108. The pretrained AI / ML model 108 may be based on historical CSI datasets that are known to the UE. These historical CSI datasets could be collected from other (e.g., representative) environments and / or from UEs from previous deployments.

[0048] Alternatively and / or additionally, the pretrained AI / ML model 108 may be based on simulated CSI data. In this case, the pretrained AI / ML model 108 is generated (e.g., prior to the model initialization 102) through channel simulation software, which models various communication scenarios.

[0049] It is understood that the first global AI / ML model 106 as initialized is then distributed to various UEs si of the system via global model distribution 110. Accordingly, in the embodiment of the diagram 100, the first global AI / ML model 106 is distributed to each of the first UE 112, the second UE 114, and so on through the k-th UE 116.

[0050] Then, the system proceeds to perform local updates 118. Each UE si trains a locally updated global AI / ML model based on its copy of the first global AI / ML model 106 as received from the base station 104. (Note that in FIG. 1, the local copy of a global AI / ML model as received from a base station is designated wt) . Note that this means that all UEs start this training according to the same AI / ML model parameters.

[0051] Each UE generates its locally updated global AI / ML model by performing local training of the first global AI / ML model 106 as received using a dataset at the UE. The dataset at each individual UE includes CSI data that has been collected by that UE and thus is representative of / tailored to the channel of the UE.

[0052] Accordingly, FIG. 1 illustrates that the first UE 112 trains its copy of the first global AI / ML model 106 using the first dataset 120 to generate the first locally updated global AI / ML model 122, the second UE 114 trains its copy of the first global AI / ML model 106 using the second dataset 124 to generate the second locally updated global AI / ML model 126, and so on through the k-th UE 116 training its copy of the first global  AI / ML model 106 using the k-th dataset 128 to generate the k-th locally updated global AI / ML model 130.

[0053] As illustrated, the training carried out by each UE may be performed for one or more epochs 132 E. The number of epochs 132 for local training may be fixed in some cases.

[0054] The training at each UE drives down a loss corresponding to the respective locally updated global AI / ML model For example, the training by the first UE 112 drives down a first loss 134 for the first locally updated global AI / ML model 122, the training by the second UE 114 drives down a second loss 136 for the second locally updated global AI / ML model 126, and so on through the training by the k-th UE 116 driving down a k-th loss 138 for the k-th locally updated global AI / ML model 130.

[0055] The system then proceeds to perform model update uploads 140. After local training at the UEs is completed, the applicable AI / ML model at each UE si is updated from wt (the global AI / ML model received from the base station) to  (alocally updated global AI / ML model based on training at that UE) , as previously discussed. Once this is complete, each of the UEs calculate and then report model update parameters where represents a difference between and wt (represent model update parameters determined by the UE according to ) . For example, the first UE 112 calculates and reports the first model update parameters 144, the second UE 114 calculates and reports the second model update parameters 146, and so on through the k-th UE 116 calculating and reporting the k-th model update parameters 148.

[0056] In some embodiments, as illustrated,  where Q is some quantization function 150 applied to the result of the operation.

[0057] The system then proceeds to perform model aggregation 142. A base station aggregates all the updated information from each of the UEs and generates a second global AI / ML model wt+1. In some embodiments, it may be understood that where F is a model update function operating on the received model update parameters from the UEs. In some embodiments,  where Q is some quantization function 152 applied to the result of the operation.

[0058] In order to reach acceptable convergence corresponding to a finally-selected global AI / ML model, portions of the procedure shown in the diagram 100 may (or may not) be repeated over again using zero or more additional communication rounds. For example, continuing with the presently described state for the embodiment of FIG. 1, if it is determined that the second global AI / ML model wt+1 is not yet sufficiently converged, it (wt+1) may then be sent to all UEs si according to (again) global model distribution 110. Then, local updates 118, model update uploads 140, and model aggregation 142 may again be performed to generate a third global AI / ML model wt+2 at the base station. This cycle may be repeated until acceptable convergence is reached for / corresponding to a global AI / ML model wt+n so generated.

[0059] Once convergence is reached, the base station 104 may distribute the associated global AI / ML model wt+n to the UEs si along with an indication that convergence has occurred. The UEs si may then, according to the indication of convergence, proceed with use of that global AI / ML model for in-field inferencing purposes.

[0060] In some embodiments, personalized FL may be used. Personalized FL may be conceived as a variant of FL as described in relation to FIG. 1, where each UE’s local model is fine-tuned using its own data after receiving the final global AI / ML model that is intended by the network for in-field inferencing purposes. This balances the benefits of collaborative learning with personalized adaptation to specific environments.

[0061] In some embodiments, model compression may be used. According to model compression, techniques such as quantization and / or pruning can be applied to model update parameters before they are sent from a UE to the base station in order to reduce communication overhead.

[0062] In some embodiments, asynchronous FL may be used. Instead of waiting for all possible UEs to send their model update parameters before performing model aggregation, the base station can aggregate model update information from whichever UEs have presently provided it with that information (e.g., using model update parameters from fewer than all possible UEs in various instances) . This allows for more flexibility and scalability in training.

[0063] Note that corresponding to the example of FIG. 1, the base station 104 acts as an example of a central server as discussed elsewhere herein. Note that in alternative embodiments, the functionality of the base station 104 described here could be alternatively be present in a central server that is other than the base station 104.

[0064] Embodiments for personalized FL and related fine-tuning aspects are now discussed. It is noted that data heterogeneity presents a significant challenge in FL, as it contradicts the common assumption of all training data being independently and identically distributed (i.i.d. ) in typical machine learning problems. Further, the physical environment and channel conditions surrounding UEs lead to statistically different data distributions, which can degrade the performance of the global AI / ML model.

[0065] Channel characteristics for UEs located in different positions within a cell can vary substantially. Such data heterogeneity can lead to performance degradation and poor convergence. This unfavorable performance might discourage participation in FL.

[0066] As discussed above, an objective of FL is to simultaneously optimize the feedback performance of a large number of UEs. As part of this optimization, the AI / ML model converges to a solution that maximizes performance across all UEs. Note that while this AI / ML model is in fact well-generalized to all UEs, it may still be less than fully optimal from the perspective of any given individual UE.

[0067] On the other hand, as discussed previously herein, IL aims to optimize the feedback performance of each UE in isolation (without regard to whether such optimizations are fit for appropriate performance of the AI / ML model on other UEs) .

[0068] Personalized FL as discussed herein may be used to further tailor the global AI / ML model, once determined, at each individual UE to account for the differences in local channel conditions at the given UE. Thus, after receiving the global AI / ML model, one or more UEs operating according to personalized FL may each proceed to perform local fine-tuning to adapt the global AI / ML model to their own data. This means that each such UE proceeds with a fine-tuned global AI / ML model for inferencing use that has been optimized for the particular environment at the UE, while still benefiting from the knowledge shared across other UEs during the global AI / ML model training.

[0069] For example, for the case of CSI feedback, each UE fine-tunes a received global AI / ML model (autoencoder) on its unique local CSI dataset in order to improve compression and reconstruction performance for its specific channel conditions.

[0070] FIG. 2 illustrates a diagram 200 showing the use of fine-tuning 212 as part of personalized FL, according to embodiments herein. As illustrated, aggregate data 202 from each of a first UE 204, a second UE 206, a third UE 208, and so on through a k-th UE 210 may be used to train a global AI / ML model 214 that is generally applicable for all of the UEs (e.g., in the manner described herein in relation to FIG. 1) .

[0071] Then, as illustrated, the first UE 204 performs fine-tuning 212 of the global AI / ML model 214 using a first local dataset 216 at the first UE 204 to generate the first fine-tuned global AI / ML model 218, which the first UE 204 uses for in-field inferencing use.

[0072] Further, the second UE 206 performs fine-tuning 212 of the global AI / ML model 214 using a second local dataset 220 at the second UE 206 to generate the second fine-tuned global AI / ML model 222, which the second UE 206 uses for in-field inferencing use.

[0073] Still further, the third UE 208 performs fine-tuning 212 of the global AI / ML model 214 using a third local dataset 224 at the third UE 208 to generate the third fine-tuned global AI / ML model 226, which the third UE 208 uses for in-field inferencing use.

[0074] The procedure proceeds so on through all the UEs, until the k-th UE 210 performs fine-tuning 212 of the global AI / ML model 214 using a k-th local dataset 228 at the k-th UE 210 to generate the k-th fine-tuned global AI / ML model 230, which the k-th UE 210 uses for in-field inferencing use.

[0075] FIG. 3 illustrates a method 300 of a UE, according to embodiments discussed herein. The method 300 includes receiving 302, from a base station, a first global AI / ML model. The method 300 further includes performing 304 local training of the first global AI / ML model at the UE to generate a locally updated first global AI / ML model. The method 300 further includes determining 306 first model update parameters corresponding to a difference between the locally updated first global AI / ML model and the first global AI / ML model. The method 300 further includes sending 308, to the base station, the first model update parameters. The method 300 further includes receiving 310, from the base station, a second global AI / ML model. The method 300 further includes performing 312 a first inference based on the second global AI / ML model.

[0076] In some embodiments, the method 300 further includes receiving, from the base station, an indication that AI / ML model convergence is achieved, wherein the first inference based on the second global AI / ML model is performed in response to the indication.

[0077] In some embodiments of the method 300, performing the first inference based on the second global AI / ML model includes: performing a fine-tuning of the second global AI / ML model at the UE to generate a fine-tuned second global AI / ML model; and performing the first inference using the fine-tuned second global AI / ML model. In some  such embodiments, the fine-tuning is performed based on local training of the second global AI / ML model that uses a local dataset at the UE.

[0078] In some embodiments, the method 300 further includes pruning the second model update parameters prior to sending the second model update parameters to the base station.

[0079] In some embodiments, the method 300 further includes quantizing the second model update parameters prior to sending the second model update parameters to the base station.

[0080] In some embodiments, the method 300 further includes performing local training of the second global AI / ML model at the UE to generate a locally updated second global AI / ML model; determining second model update parameters corresponding to a difference between the locally updated second global AI / ML model and the second global AI / ML model; sending, to the base station, the second model update parameters; receiving, from the base station, a third global AI / ML model; and performing a second inference based on the third global AI / ML model.

[0081] In some embodiments of the method 300, the first model update parameters indicate updates for neural network weights used by the first global AI / ML model.

[0082] In some embodiments of the method 300, the first global AI / ML model is for CSI encoding and decoding.

[0083] FIG. 4 illustrates a method 400 of a base station, according to embodiments discussed herein. The method 400 includes distributing 402, method 400 distributes, to a first UE and a second UE, a first global AI / ML model. The method 400 further includes receiving 404, from the first UE, in response to distributing the first global AI / ML model to the first UE, first model update parameters for the first global AI / ML model. The method 400 further includes receiving 406, from the second UE, in response to distributing the first global AI / ML model to the second UE, second model update parameters for the first global AI / ML model. The method 400 further includes performing 408 an update of the first global AI / ML model into a second global AI / ML model using the first model update parameters received from the first UE and the second model update parameters received from the second UE. The method 400 further includes distributing 410, to the first UE and the second UE, the second global AI / ML model.

[0084] In some embodiments, the method 400 further includes identifying, based on a comparison of the first global AI / ML model to the second global AI / ML model, that an  AI / ML model convergence is achieved; and indicating to the first UE and the second UE that the AI / ML model convergence is achieved.

[0085] In some embodiments, the method 400 further includes initializing the first global AI / ML model based on historical data.

[0086] In some embodiments, the method 400 further includes initializing the first global AI / ML model based on simulation data.

[0087] In some embodiments, the method 400 further includes receiving, from the first UE, in response to distributing the second global AI / ML model to the first UE, third model update parameters for the second global AI / ML model; receiving, from the second UE, in response to distributing the second global AI / ML model to the second UE, fourth model update parameters for the second global AI / ML model; performing an update of the second global AI / ML model into a third global AI / ML model using the third model update parameters received from the first UE and the fourth model update parameters received from the second UE; and distributing, to the first UE and the second UE, the third global AI / ML model.

[0088] In some embodiments of the method 400, the first global artificial AI / ML model is further distributed to a third UE, and wherein the update of the first global AI / ML model into the second global AI / ML model using the first model update parameters received from the first UE and the second model update parameters received from the second UE is performed asynchronously with respect to the third UE.

[0089] In some embodiments of the method 400, the first model update parameters and the second model update parameters each indicate updates for neural network weights used by the first global AI / ML model.

[0090] In some embodiments of the method 400, the first global AI / ML model is for CSI encoding and decoding.

[0091] FIG. 5 illustrates an example architecture of a wireless communication system 500, according to embodiments disclosed herein. The following description is provided for an example wireless communication system 500 that operates in conjunction with the LTE system standards and / or 5G or NR system standards as provided by 3GPP technical specifications.

[0092] As shown by FIG. 5, the wireless communication system 500 includes UE 502 and UE 504 (although any number of UEs may be used) . In this example, the UE 502  and the UE 504 are illustrated as smartphones (e.g., handheld touchscreen mobile computing devices connectable to one or more cellular networks) , but may also comprise any mobile or non-mobile computing device configured for wireless communication.

[0093] The UE 502 and UE 504 may be configured to communicatively couple with a RAN 506. In embodiments, the RAN 506 may be NG-RAN, E-UTRAN, etc. The UE 502 and UE 504 utilize connections (or channels) (shown as connection 508 and connection 510, respectively) with the RAN 506, each of which comprises a physical communications interface. The RAN 506 can include one or more base stations (such as base station 512 and base station 514) that enable the connection 508 and connection 510.

[0094] In this example, the connection 508 and connection 510 are air interfaces to enable such communicative coupling, and may be consistent with RAT (s) used by the RAN 506, such as, for example, an LTE and / or NR.

[0095] In some embodiments, the UE 502 and UE 504 may also directly exchange communication data via a sidelink interface 516. The UE 504 is shown to be configured to access an access point (shown as AP 518) via connection 520. By way of example, the connection 520 can comprise a local wireless connection, such as a connection consistent with any IEEE 802.11 protocol, wherein the AP 518 may comprise a router. In this example, the AP 518 may be connected to another network (for example, the Internet) without going through a CN 524.

[0096] In embodiments, the UE 502 and UE 504 can be configured to communicate using orthogonal frequency division multiplexing (OFDM) communication signals with each other or with the base station 512 and / or the base station 514 over a multicarrier communication channel in accordance with various communication techniques, such as, but not limited to, an orthogonal frequency division multiple access (OFDMA) communication technique (e.g., for downlink communications) or a single carrier frequency division multiple access (SC-FDMA) communication technique (e.g., for uplink and ProSe or sidelink communications) , although the scope of the embodiments is not limited in this respect. The OFDM signals can comprise a plurality of orthogonal subcarriers.

[0097] In some embodiments, all or parts of the base station 512 or base station 514 may be implemented as one or more software entities running on server computers as part of a virtual network. In addition, or in other embodiments, the base station 512 or  base station 514 may be configured to communicate with one another via interface 522. In embodiments where the wireless communication system 500 is an LTE system (e.g., when the CN 524 is an EPC) , the interface 522 may be an X2 interface. The X2 interface may be defined between two or more base stations (e.g., two or more eNBs and the like) that connect to an EPC, and / or between two eNBs connecting to the EPC. In embodiments where the wireless communication system 500 is an NR system (e.g., when CN 524 is a 5GC) , the interface 522 may be an Xn interface. The Xn interface is defined between two or more base stations (e.g., two or more gNBs and the like) that connect to 5GC, between a base station 512 (e.g., a gNB) connecting to 5GC and an eNB, and / or between two eNBs connecting to 5GC (e.g., CN 524) .

[0098] The RAN 506 is shown to be communicatively coupled to the CN 524. The CN 524 may comprise one or more network elements 526, which are configured to offer various data and telecommunications services to customers / subscribers (e.g., users of UE 502 and UE 504) who are connected to the CN 524 via the RAN 506. The components of the CN 524 may be implemented in one physical device or separate physical devices including components to read and execute instructions from a machine-readable or computer-readable medium (e.g., a non-transitory machine-readable storage medium) .

[0099] In embodiments, the CN 524 may be an EPC, and the RAN 506 may be connected with the CN 524 via an S1 interface 528. In embodiments, the S1 interface 528 may be split into two parts, an S1 user plane (S1-U) interface, which carries traffic data between the base station 512 or base station 514 and a serving gateway (S-GW) , and the S1-MME interface, which is a signaling interface between the base station 512 or base station 514 and mobility management entities (MMEs) .

[0100] In embodiments, the CN 524 may be a 5GC, and the RAN 506 may be connected with the CN 524 via an NG interface 528. In embodiments, the NG interface 528 may be split into two parts, an NG user plane (NG-U) interface, which carries traffic data between the base station 512 or base station 514 and a user plane function (UPF) , and the S1 control plane (NG-C) interface, which is a signaling interface between the base station 512 or base station 514 and access and mobility management functions (AMFs) .

[0101] Generally, an application server 530 may be an element offering applications that use internet protocol (IP) bearer resources with the CN 524 (e.g., packet switched data services) . The application server 530 can also be configured to support one or more  communication services (e.g., VoIP sessions, group communication sessions, etc. ) for the UE 502 and UE 504 via the CN 524. The application server 530 may communicate with the CN 524 through an IP communications interface 532.

[0102] FIG. 6 illustrates a system 600 for performing signaling 634 between a wireless device 602 and a network device 618, according to embodiments disclosed herein. The system 600 may be a portion of a wireless communications system as herein described. The wireless device 602 may be, for example, a UE of a wireless communication system. The network device 618 may be, for example, a base station (e.g., an eNB or a gNB) of a wireless communication system.

[0103] The wireless device 602 may include one or more processor (s) 604. The processor (s) 604 may execute instructions such that various operations of the wireless device 602 are performed, as described herein. The processor (s) 604 may include one or more baseband processors implemented using, for example, a central processing unit (CPU) , a digital signal processor (DSP) , an application specific integrated circuit (ASIC) , a controller, a field programmable gate array (FPGA) device, another hardware device, a firmware device, or any combination thereof configured to perform the operations described herein.

[0104] The wireless device 602 may include a memory 606. The memory 606 may be a non-transitory computer-readable storage medium that stores instructions 608 (which may include, for example, the instructions being executed by the processor (s) 604) . The instructions 608 may also be referred to as program code or a computer program. The memory 606 may also store data used by, and results computed by, the processor (s) 604.

[0105] The wireless device 602 may include one or more transceiver (s) 610 that may include radio frequency (RF) transmitter circuitry and / or receiver circuitry that use the antenna (s) 612 of the wireless device 602 to facilitate signaling (e.g., the signaling 634) to and / or from the wireless device 602 with other devices (e.g., the network device 618) according to corresponding RATs.

[0106] The wireless device 602 may include one or more antenna (s) 612 (e.g., one, two, four, or more) . For embodiments with multiple antenna (s) 612, the wireless device 602 may leverage the spatial diversity of such multiple antenna (s) 612 to send and / or receive multiple different data streams on the same time and frequency resources. This behavior may be referred to as, for example, multiple input multiple output (MIMO) behavior (referring to the multiple antennas used at each of a transmitting device and a receiving  device that enable this aspect) . MIMO transmissions by the wireless device 602 may be accomplished according to precoding (or digital beamforming) that is applied at the wireless device 602 that multiplexes the data streams across the antenna (s) 612 according to known or assumed channel characteristics such that each data stream is received with an appropriate signal strength relative to other streams and at a desired location in the spatial domain (e.g., the location of a receiver associated with that data stream) . Certain embodiments may use single user MIMO (SU-MIMO) methods (where the data streams are all directed to a single receiver) and / or multi user MIMO (MU-MIMO) methods (where individual data streams may be directed to individual (different) receivers in different locations in the spatial domain) .

[0107] In certain embodiments having multiple antennas, the wireless device 602 may implement analog beamforming techniques, whereby phases of the signals sent by the antenna (s) 612 are relatively adjusted such that the (joint) transmission of the antenna (s) 612 can be directed (this is sometimes referred to as beam steering) .

[0108] The wireless device 602 may include one or more interface (s) 614. The interface (s) 614 may be used to provide input to or output from the wireless device 602. For example, a wireless device 602 that is a UE may include interface (s) 614 such as microphones, speakers, a touchscreen, buttons, and the like in order to allow for input and / or output to the UE by a user of the UE. Other interfaces of such a UE may be made up of transmitters, receivers, and other circuitry (e.g., other than the transceiver (s) 610 / antenna (s) 612 already described) that allow for communication between the UE and other devices and may operate according to known protocols (e.g.,  and the like) .

[0109] The wireless device 602 may include a federated learning module 616. The federated learning module 616 may be implemented via hardware, software, or combinations thereof. For example, the federated learning module 616 may be implemented as a processor, circuit, and / or instructions 608 stored in the memory 606 and executed by the processor (s) 604. In some examples, the federated learning module 616 may be integrated within the processor (s) 604 and / or the transceiver (s) 610. For example, the federated learning module 616 may be implemented by a combination of software components (e.g., executed by a DSP or a general processor) and hardware components (e.g., logic gates and circuitry) within the processor (s) 604 or the transceiver (s) 610.

[0110] The federated learning module 616 may be used for various aspects of the present disclosure, for example, aspects of FIG. 3. The federated learning module 616 may configure the wireless device 602 to receive, from a base station (e.g., a network device 618) , a first global AI / ML model; perform local training of the first global AI / ML model at the UE to generate a locally updated first global AI / ML model; determine first model update parameters corresponding to a difference between the locally updated first global AI / ML model and the first global AI / ML model; send, to the base station, the first model update parameters; receiving, from the base station, a second global AI / ML model; and perform a first inference based on the second global AI / ML model.

[0111] The network device 618 may include one or more processor (s) 620. The processor (s) 620 may execute instructions such that various operations of the network device 618 are performed, as described herein. The processor (s) 620 may include one or more baseband processors implemented using, for example, a CPU, a DSP, an ASIC, a controller, an FPGA device, another hardware device, a firmware device, or any combination thereof configured to perform the operations described herein.

[0112] The network device 618 may include a memory 622. The memory 622 may be a non-transitory computer-readable storage medium that stores instructions 624 (which may include, for example, the instructions being executed by the processor (s) 620) . The instructions 624 may also be referred to as program code or a computer program. The memory 622 may also store data used by, and results computed by, the processor (s) 620.

[0113] The network device 618 may include one or more transceiver (s) 626 that may include RF transmitter circuitry and / or receiver circuitry that use the antenna (s) 628 of the network device 618 to facilitate signaling (e.g., the signaling 634) to and / or from the network device 618 with other devices (e.g., the wireless device 602) according to corresponding RATs.

[0114] The network device 618 may include one or more antenna (s) 628 (e.g., one, two, four, or more) . In embodiments having multiple antenna (s) 628, the network device 618 may perform MIMO, digital beamforming, analog beamforming, beam steering, etc., as has been described.

[0115] The network device 618 may include one or more interface (s) 630. The interface (s) 630 may be used to provide input to or output from the network device 618. For example, a network device 618 that is a base station may include interface (s) 630 made up of transmitters, receivers, and other circuitry (e.g., other than the transceiver (s)  626 / antenna (s) 628 already described) that enables the base station to communicate with other equipment in a core network, and / or that enables the base station to communicate with external networks, computers, databases, and the like for purposes of operations, administration, and maintenance of the base station or other equipment operably connected thereto.

[0116] The network device 618 may include a federated learning module 632. The federated learning module 632 may be implemented via hardware, software, or combinations thereof. For example, the federated learning module 632 may be implemented as a processor, circuit, and / or instructions 624 stored in the memory 622 and executed by the processor (s) 620. In some examples, the federated learning module 632 may be integrated within the processor (s) 620 and / or the transceiver (s) 626. For example, the federated learning module 632 may be implemented by a combination of software components (e.g., executed by a DSP or a general processor) and hardware components (e.g., logic gates and circuitry) within the processor (s) 620 or the transceiver (s) 626.

[0117] The federated learning module 632 may be used for various aspects of the present disclosure, for example, aspects of FIG. 4. The federated learning module 632 may configure the network device 618 to distribute, to a first UE (e.g., a first wireless device 602) and a second UE (e.g., a second wireless device 602) , a first global AI / ML model; receive, from the first UE, in response to distributing the first global AI / ML model to the first UE, first model update parameters for the first global AI / ML model; receive, from the second UE, in response to distributing the first global AI / ML model to the second UE, second model update parameters for the first global AI / ML model; perform an update of the first global AI / ML model into a second global AI / ML model using the first model update parameters received from the first UE and the second model update parameters received from the second UE; and distribute, to the first UE and the second UE, the second global AI / ML model.

[0118] Embodiments contemplated herein include an apparatus comprising means to perform one or more elements of the method 300. This apparatus may be, for example, an apparatus of a UE (such as a wireless device 602 that is a UE, as described herein) .

[0119] Embodiments contemplated herein include one or more non-transitory computer-readable media comprising instructions to cause an electronic device, upon execution of the instructions by one or more processors of the electronic device, to  perform one or more elements of the method 300. This non-transitory computer-readable media may be, for example, a memory of a UE (such as a memory 606 of a wireless device 602 that is a UE, as described herein) .

[0120] Embodiments contemplated herein include an apparatus comprising logic, modules, or circuitry to perform one or more elements of the method 300. This apparatus may be, for example, an apparatus of a UE (such as a wireless device 602 that is a UE, as described herein) .

[0121] Embodiments contemplated herein include an apparatus comprising: one or more processors and one or more computer-readable media comprising instructions that, when executed by the one or more processors, cause the one or more processors to perform one or more elements of the method 300. This apparatus may be, for example, an apparatus of a UE (such as a wireless device 602 that is a UE, as described herein) .

[0122] Embodiments contemplated herein include a signal as described in or related to one or more elements of the method 300.

[0123] Embodiments contemplated herein include a computer program or computer program product comprising instructions, wherein execution of the program by a processor is to cause the processor to carry out one or more elements of the method 300. The processor may be a processor of a UE (such as a processor (s) 604 of a wireless device 602 that is a UE, as described herein) . These instructions may be, for example, located in the processor and / or on a memory of the UE (such as a memory 606 of a wireless device 602 that is a UE, as described herein) .

[0124] Embodiments contemplated herein include an apparatus comprising means to perform one or more elements of the method 400. This apparatus may be, for example, an apparatus of a base station (such as a network device 618 that is a base station, as described herein) .

[0125] Embodiments contemplated herein include one or more non-transitory computer-readable media comprising instructions to cause an electronic device, upon execution of the instructions by one or more processors of the electronic device, to perform one or more elements of the method 400. This non-transitory computer-readable media may be, for example, a memory of a base station (such as a memory 622 of a network device 618 that is a base station, as described herein) .

[0126] Embodiments contemplated herein include an apparatus comprising logic, modules, or circuitry to perform one or more elements of the method 400. This apparatus  may be, for example, an apparatus of a base station (such as a network device 618 that is a base station, as described herein) .

[0127] Embodiments contemplated herein include an apparatus comprising: one or more processors and one or more computer-readable media comprising instructions that, when executed by the one or more processors, cause the one or more processors to perform one or more elements of the method 400. This apparatus may be, for example, an apparatus of a base station (such as a network device 618 that is a base station, as described herein) .

[0128] Embodiments contemplated herein include a signal as described in or related to one or more elements of the method 400.

[0129] Embodiments contemplated herein include a computer program or computer program product comprising instructions, wherein execution of the program by a processing element is to cause the processing element to carry out one or more elements of the method 400. The processor may be a processor of a base station (such as a processor (s) 620 of a network device 618 that is a base station, as described herein) . These instructions may be, for example, located in the processor and / or on a memory of the base station (such as a memory 622 of a network device 618 that is a base station, as described herein) .

[0130] For one or more embodiments, at least one of the components set forth in one or more of the preceding figures may be configured to perform one or more operations, techniques, processes, and / or methods as set forth herein. For example, a baseband processor as described herein in connection with one or more of the preceding figures may be configured to operate in accordance with one or more of the examples set forth herein. For another example, circuitry associated with a UE, base station, network element, etc. as described above in connection with one or more of the preceding figures may be configured to operate in accordance with one or more of the examples set forth herein.

[0131] Any of the above described embodiments may be combined with any other embodiment (or combination of embodiments) , unless explicitly stated otherwise. The foregoing description of one or more implementations provides illustration and description, but is not intended to be exhaustive or to limit the scope of embodiments to the precise form disclosed. Modifications and variations are possible in light of the above teachings or may be acquired from practice of various embodiments.

[0132] Embodiments and implementations of the systems and methods described herein may include various operations, which may be embodied in machine-executable instructions to be executed by a computer system. A computer system may include one or more general-purpose or special-purpose computers (or other electronic devices) . The computer system may include hardware components that include specific logic for performing the operations or may include a combination of hardware, software, and / or firmware.

[0133] It should be recognized that the systems described herein include descriptions of specific embodiments. These embodiments can be combined into single systems, partially combined into other systems, split into multiple systems or divided or combined in other ways. In addition, it is contemplated that parameters, attributes, aspects, etc. of one embodiment can be used in another embodiment. The parameters, attributes, aspects, etc. are merely described in one or more embodiments for clarity, and it is recognized that the parameters, attributes, aspects, etc. can be combined with or substituted for parameters, attributes, aspects, etc. of another embodiment unless specifically disclaimed herein.

[0134] It is well understood that the use of personally identifiable information should follow privacy policies and practices that are generally recognized as meeting or exceeding industry or governmental requirements for maintaining the privacy of users. In particular, personally identifiable information data should be managed and handled so as to minimize risks of unintentional or unauthorized access or use, and the nature of authorized use should be clearly indicated to users.

[0135] Although the foregoing has been described in some detail for purposes of clarity, it will be apparent that certain changes and modifications may be made without departing from the principles thereof. It should be noted that there are many alternative ways of implementing both the processes and apparatuses described herein. Accordingly, the present embodiments are to be considered illustrative and not restrictive, and the description is not to be limited to the details given herein, but may be modified within the scope and equivalents of the appended claims.

Claims

1.A method of a user equipment (UE) , comprising:receiving, from a base station, a first global artificial intelligence (AI)  / machine learning (ML) model;performing local training of the first global AI / ML model at the UE to generate a locally updated first global AI / ML model;determining first model update parameters corresponding to a difference between the locally updated first global AI / ML model and the first global AI / ML model;sending, to the base station, the first model update parameters;receiving, from the base station, a second global AI / ML model; andperforming a first inference based on the second global AI / ML model.2.The method of claim 1, further comprising receiving, from the base station, an indication that AI / ML model convergence is achieved, wherein the first inference based on the second global AI / ML model is performed in response to the indication.3.The method of claim 1, wherein performing the first inference based on the second global AI / ML model comprises:performing a fine-tuning of the second global AI / ML model at the UE to generate a fine-tuned second global AI / ML model; andperforming the first inference using the fine-tuned second global AI / ML model.4.The method of claim 3, wherein the fine-tuning is performed based on local training of the second global AI / ML model that uses a local dataset at the UE.5.The method of claim 1, further comprising pruning the second model update parameters prior to sending the second model update parameters to the base station.6.The method of claim 1, further comprising quantizing the second model update parameters prior to sending the second model update parameters to the base station.7.The method of claim 1, further comprising:performing local training of the second global AI / ML model at the UE to generate a locally updated second global AI / ML model;determining second model update parameters corresponding to a difference between the locally updated second global AI / ML model and the second global AI / ML model;sending, to the base station, the second model update parameters;receiving, from the base station, a third global AI / ML model; andperforming a second inference based on the third global AI / ML model.8.The method of claim 1, wherein the first model update parameters indicate updates for neural network weights used by the first global AI / ML model.9.The method of claim 1, wherein the first global AI / ML model is for channel state information (CSI) encoding and decoding.10.A method of a base station, comprising:distributing, to a first user equipment (UE) and a second UE, a first global artificial intelligence (AI)  / machine learning (ML) model;receiving, from the first UE, in response to distributing the first global AI / ML model to the first UE, first model update parameters for the first global AI / ML model;receiving, from the second UE, in response to distributing the first global AI / ML model to the second UE, second model update parameters for the first global AI / ML model;performing an update of the first global AI / ML model into a second global AI / ML model using the first model update parameters received from the first UE and the second model update parameters received from the second UE; anddistributing, to the first UE and the second UE, the second global AI / ML model.11.The method of claim 10, further comprising:identifying, based on a comparison of the first global AI / ML model to the second global AI / ML model, that an AI / ML model convergence is achieved; andindicating to the first UE and the second UE that the AI / ML model convergence is achieved.12.The method of claim 10, further comprising initializing the first global AI / ML model based on historical data.13.The method of claim 10, further comprising initializing the first global AI / ML model based on simulation data.14.The method of claim 10, further comprising:receiving, from the first UE, in response to distributing the second global AI / ML model to the first UE, third model update parameters for the second global AI / ML model;receiving, from the second UE, in response to distributing the second global AI / ML model to the second UE, fourth model update parameters for the second global AI / ML model;performing an update of the second global AI / ML model into a third global AI / ML model using the third model update parameters received from the first UE and the fourth model update parameters received from the second UE; anddistributing, to the first UE and the second UE, the third global AI / ML model.15.The method of claim 10, wherein the first global artificial AI / ML model is further distributed to a third UE, and wherein the update of the first global AI / ML model into the second global AI / ML model using the first model update parameters received from the first UE and the second model update parameters received from the second UE is performed asynchronously with respect to the third UE.16.The method of claim 10, wherein the first model update parameters and the second model update parameters each indicate updates for neural network weights used by the first global AI / ML model.17.The method of claim 10, wherein the first global AI / ML model is for channel state information (CSI) encoding and decoding.18.An apparatus comprising means to perform the method of any of claim 1 to claim 17.19.A computer-readable media comprising instructions to cause an electronic device, upon execution of the instructions by one or more processors of the electronic device, to perform the method of any of claim 1 to claim 17.20.An apparatus comprising logic, modules, or circuitry to perform the method of any of claim 1 to claim 17.21.A baseband processor for a user equipment (UE) that is configured to cause the UE to perform one or more elements of any one of claim 1 to claim 9.22.A baseband processor for a base station that is configured to cause the base station to perform one or more elements of any one of claim 10 to claim 17.

Images