Systems and methods for exchanging federated learning configuration information

Abstract

At least one aspect is directed to a system, method, apparatus, and / or a computer-readable medium of the following. In some embodiments, a first network element can receive a FL configuration request from a second network. In some embodiments, the first network element can include at least one of first user equipment (UE) or a first base station (BS) and the second network element can include a second BS. In some embodiments, the second network element can send the federated learning (FL) configuration request to a first network element receive the FL configuration response from the first network element.

Description

SYSTEMS AND METHODS FOR EXCHANGING FEDERATED LEARNING CONFIGURATION INFORMATIONTECHNICAL FIELD

[0001] The disclosure relates generally to wireless communications, including but not limited to systems and methods for exchanging federated learning configuration information.BACKGROUND

[0002] The standardization organization Third Generation Partnership Project (3GPP) is currently in the process of specifying a new Radio Interface called 5G New Radio (5G NR) as well as a Next Generation Packet Core Network (NG-CN or NGC) . The 5G NR will have three main components: a 5G Access Network (5G-AN) , a 5G Core Network (5GC) , and a User Equipment (UE) . In order to facilitate the enablement of different data services and requirements, the elements of the 5GC, also called Network Functions, have been simplified with some of them being software based, and some being hardware based, so that they could be adapted according to need.

[0003] As the number of applications and services for digital data continues to explode, the demands and challenges placed on network resources and operators will continue to increase. Being able to deliver a wide variety of network performance characteristics that future services will demand is one of the primary technical challenges faced by service providers today. The performance requirements placed on the network will demand connectivity in terms of data rate, latency, QOS, security, availability, and many other parameters, all of which will vary from one service to the next.

[0004] On the other hand, there is a trend to apply AI / ML (Artificial Intelligence / Machine Learning) to wireless network to improve the network performance. To be specific, wireless device may actively and intelligently monitor its environment by learning and predicting the evolution of the various environmental features and proactively taking actions that maximize the chances of success for some predefined goal. Moreover, AI / ML enables the network infrastructure to learn from the wireless networking environment and take adaptive network optimization actions. In consequence, AI / ML is expected to play several roles in the next generation of wireless networks.

[0005] Due to privacy concerns and limited communication resources for data transmission, it is undesirable for all users engaged in learning to transmit all of their collected data to a data center or a cloud. This, in turn, motivates the development of distributed learning that allow devices to use individually collected data to train a learning model locally. One of the most promising of such distributed learning mechanism is called federated learning (FL) , which enables users to collaboratively learn a shared prediction model while keeping their collected data on their devices.

[0006] The implementation of federated learning in wireless network will raise many challenges, such as how to select the participant UE, transfer the UE capability, deliver the global model and local model updates in  an efficient way. In this disclosure, a systematic design for the federated learning and inference implementation for mobility control in wireless network is given.SUMMARY

[0007] The example embodiments disclosed herein are directed to solving the issues relating to one or more of the problems presented in the prior art, as well as providing additional features that will become readily apparent by reference to the following detailed description when taken in conjunction with the accompany drawings. In accordance with various embodiments, example systems, methods, devices and computer program products are disclosed herein. It is understood, however, that these embodiments are presented by way of example and are not limiting, and it will be apparent to those of ordinary skill in the art who read the present disclosure that various modifications to the disclosed embodiments can be made while remaining within the scope of this disclosure.

[0008] This disclosure presents a systematic design for federated learning and inference of mobility control in wireless network, which tries to solve the participate user equipment (UE) selection, UE capability transfer, global model transfer, local model update issue. Aspects of the technical solution can ensure the UE’s data privacy. Furthermore, improving the UE’s mobility decision.

[0009] At least one aspect is directed to a system, method, apparatus, and / or a computer-readable medium of the following. In some embodiments, a first network element can receive a FL configuration request from a second network. In some embodiments, the first network element can include at least one of first user equipment (UE) or a first base station (BS) and the second network element can include a second BS. In some embodiments, the FL configuration request can identify at least one of: an identifier of a FL model, a size of the FL model, an expected computation resource, an expected storage resource, an expected power consumption, one-shot local training or periodic local training, a periodicity for periodic local training, a number of training times, or a number of third network elements to be used for training.

[0010] In some embodiments, the first network element can receive data associated with an instance of a FL model from the second network element. In some embodiments, the data associated with the FL model can include at least one of: an identifier of a FL model, the FL model, a plurality of model parameters of the FL model, a checkpoint, an expected completion time, or a deadline for updating of the FL model. In some embodiments, the first network element can perform training of an FL model, in response to receipt of data associated with the FL model. In some embodiments, a third network element can be configured by the first network element to perform local training of an FL model. In some embodiments, the first network element can receive local model update and or performance data from a plurality of third network elements. In some embodiments, the first network element can aggregate the FL model, in response to receipt of the local model update information from a plurality of third network elements. In some embodiments, the first network element can send at least one of: local model update information, weight, the number of third network elements involved, UE ID, performance data to the second network element. In some embodiments, the performance data can identify at least one of: a time elapsed for the local training, start and or end time of the local training, an amount of consumed computation resources, an amount of consumed storage resource, or an amount of consumed power.

[0011] In some embodiments, the second network element can aggregate the FL model, in response to at least one of: receipt of the local model update information from a plurality of first network elements or the third network elements from which the local model update information are received is larger than a threshold. In some embodiments, the first network element can send a FL configuration response to the second network element. In some embodiments, the FL configuration response can identify at least one of: FL accept or reject indication, a list of identifiers of accepted FL models, a list of identifiers of rejected FL models, an accepted number of training times for accepted FL models, a rejection cause for rejected FL models, or a number of third network elements involved.

[0012] In some embodiments, the first network element can send mobility prediction information to the second network element. In some embodiments, the mobility prediction information can include at least one of a predicted measurement result or predicted cell list for handover, predict indication, probability of the prediction. In some embodiments, the first network element can receive data collection configuration from the second network element. In some embodiments, the data collection configuration can include at least one of a periodicity of data report, a trigger event for the data report, a report metric, a report duration, or report times.

[0013] In some embodiments, the first network element can send the data report to the second network element. In some embodiments, the data repot can include at least one of: a location; a moving speed; a moving direction; a moving trajectory; measured RSRP or RSRQ of a serving cell or surrounding cells; measured RSRP or RSRQ of beams of a serving cell or surrounding cells; a detection of radio link failure (RLF) detection in a relevant cell; a beam failure; content request; a traffic characteristic; a traffic pattern; a quality-of-service (QoS) profile; or a time stamp.

[0014] In some embodiments, the first network element can send user habit information identifying at least one of: a time duration of when the first network element is mobile or a time duration of when the first network element is stationary to the second network element. In some embodiments, the first network element can send cell specific information to the second network element. In some embodiments, the cell specific information comprises at least one of a public land mobile network (PLMN) , a serving cell, a cell coverage, a frequency, a load status, a capability, supported feature, or a supported service.

[0015] In some embodiments, the first network element can send at least one of a predicted measurement result, a predicted cell list for handover, prediction indication, prediction probability to the second network element. In some embodiments, the predicted measurement result comprising at least one of RSRP or RSRQ of a serving cell or surrounding cells; RSRP or RSRQ of a number of best beams of a serving cell or surrounding cells, the corresponding TCI index or SSB index. In some embodiments, the first network element can send at least one of an artificial intelligence and machine learning (AI / ML) or a UE preference report to the second network element. In some embodiments, the AI / ML capability report identifies at least one of a computation capability, a storage capability, a power limit, an identification of a supported AI / ML model, an indication of support for FL, UE-side training support, or UE-side inference support.

[0016] In some embodiments, the first network element can send at least one of an artificial intelligence and machine learning (AI / ML) capability report or a BS preference report to the second network element. In some embodiments, the AI / ML capability report identifies at least one of a computation capability, a storage  capability, a power limit, an identification of a supported AI / ML model, or an indication of support for FL. The BS preference report identifies at least one of an available time for FL or one of one-shot FL or periodic FL.BRIEF DESCRIPTION OF THE DRAWINGS

[0017] Various example embodiments of the present solution are described in detail below with reference to the following figures or drawings. The drawings are provided for purposes of illustration only and merely depict example embodiments of the present solution to facilitate the reader's understanding of the present solution. Therefore, the drawings should not be considered limiting of the breadth, scope, or applicability of the present solution. It should be noted that for clarity and ease of illustration, these drawings are not necessarily drawn to scale.

[0018] FIG. 1 illustrates an example cellular communication network in which techniques disclosed herein may be implemented, in accordance with an embodiment of the present disclosure;

[0019] FIG. 2 illustrates a block diagram of an example base station (BS) and a user equipment device (UE) , in accordance with some embodiments of the present disclosure;

[0020] FIGs. 3A–3C each illustrate examples of BS coordinated federated learning / inference, in accordance with an embodiment of the present disclosure;

[0021] FIGs. 4A and 4B illustrate examples of BS based online training, in accordance with an embodiment of the present disclosure;

[0022] FIG. 5 illustrates an example of BS based mobility control inference, in accordance with an embodiment of the present disclosure;

[0023] FIG. 6 illustrates an example of BS coordinated federated training and mobility control inference at the UE, in accordance with an embodiment of the present disclosure;

[0024] FIG. 7 illustrates an example of BS coordinated federated training among the UEs served by a neighbor BS, in accordance with an embodiment of the present disclosure;

[0025] FIG. 8 illustrates an example of BS coordinated federated training among the neighbor BS, in accordance with an embodiment of the present disclosure;

[0026] FIG. 9 illustrates an example of mobility control model inference at both the UE and the BS, in accordance with an embodiment of the present disclosure;

[0027] FIG. 10 illustrates an example of the UE sending AI / ML capability / preference report to the BS, in accordance with an embodiment of the present disclosure;

[0028] FIG. 11 illustrates another example of the UE sending the AI / ML capability / preference report to the BS, in accordance with an embodiment of the present disclosure;

[0029] FIG. 12 illustrates a flow diagram of a method 400 for cell resolution, in accordance with an embodiment of the present disclosure.DETAILED DESCRIPTION

[0030] A. Mobile Communication Technology and Environment

[0031] FIG. 1 illustrates an example wireless communication network, and / or system, 100 in which techniques disclosed herein may be implemented, in accordance with an embodiment of the present disclosure. In the following discussion, the wireless communication network 100 may be any wireless network, such as a cellular network or a narrowband Internet of things (NB-IoT) network, and is herein referred to as “network 100. ” Such an example network 100 includes a base station 102 (hereinafter “BS 102” ; also referred to as wireless communication node) and a user equipment device 104 (hereinafter “UE 104” ; also referred to as wireless communication device) that can communicate with each other via a communication link 110 (e.g., a wireless communication channel) , and a cluster of cells 126, 130, 132, 134, 136, 138 and 140 overlaying a geographical area 101. In FIG. 1, the BS 102 and UE 104 are contained within a respective geographic boundary of cell 126. Each of the other cells 130, 132, 134, 136, 138 and 140 may include at least one base station operating at its allocated bandwidth to provide adequate radio coverage to its intended users.

[0032] For example, the BS 102 may operate at an allocated channel transmission bandwidth to provide adequate coverage to the UE 104. The BS 102 and the UE 104 may communicate via a downlink radio frame 118, and an uplink radio frame 124 respectively. Each radio frame 118 / 124 may be further divided into sub-frames 120 / 127 which may include data symbols 122 / 128. In the present disclosure, the BS 102 and UE 104 are described herein as non-limiting examples of “communication nodes, ” generally, which can practice the methods disclosed herein. Such communication nodes may be capable of wireless and / or wired communications, in accordance with various embodiments of the present solution.

[0033] FIG. 2 illustrates a block diagram of an example wireless communication system 200 for transmitting and receiving wireless communication signals (e.g., OFDM / OFDMA signals) in accordance with some embodiments of the present solution. The system 200 may include components and elements configured to support known or conventional operating features that need not be described in detail herein. In one illustrative embodiment, system 200 can be used to communicate (e.g., transmit and receive) data symbols in a wireless communication environment such as the wireless communication environment 100 of FIG. 1, as described above.

[0034] System 200 generally includes a base station 202 (hereinafter “BS 202” ) and a user equipment device 204 (hereinafter “UE 204” ) . The BS 202 includes a BS (base station) transceiver module 210, a BS antenna 212, a BS processor module 214, a BS memory module 216, and a network communication module 218, each module being coupled and interconnected with one another as necessary via a data communication bus 220. The UE 204 includes a UE (user equipment) transceiver module 230, a UE antenna 232, a UE memory module 234, and a UE processor module 236, each module being coupled and interconnected with one another as necessary via a data communication bus 240. The BS 202 communicates with the UE 204 via a communication channel 250, which can be any wireless channel or other medium suitable for transmission of data as described herein.

[0035] As would be understood by persons of ordinary skill in the art, system 200 may further include any number of modules other than the modules shown in FIG. 2. Those skilled in the art will understand that the various illustrative blocks, modules, circuits, and processing logic described in connection with the embodiments disclosed herein may be implemented in hardware, computer-readable software, firmware, or any practical combination thereof. To clearly illustrate this interchangeability and compatibility of hardware, firmware, and software, various illustrative components, blocks, modules, circuits, and steps are described generally in terms of their functionality. Whether such functionality is implemented as hardware, firmware, or software can depend upon the particular application and design constraints imposed on the overall system. Those familiar with the concepts described herein may implement such functionality in a suitable manner for each particular application, but such implementation decisions should not be interpreted as limiting the scope of the present disclosure.

[0036] In accordance with some embodiments, the UE transceiver 230 may be referred to herein as an "uplink" transceiver 230 that includes a radio frequency (RF) transmitter and a RF receiver each comprising circuitry that is coupled to the antenna 232. A duplex switch (not shown) may alternatively couple the uplink transmitter or receiver to the uplink antenna in time duplex fashion. Similarly, in accordance with some embodiments, the BS transceiver 210 may be referred to herein as a "downlink" transceiver 210 that includes a RF transmitter and a RF receiver each comprising circuity that is coupled to the antenna 212. A downlink duplex switch may alternatively couple the downlink transmitter or receiver to the downlink antenna 212 in time duplex fashion. The operations of the two transceiver modules 210 and 230 may be coordinated in time such that the uplink receiver circuitry is coupled to the uplink antenna 232 for reception of transmissions over the wireless transmission link 250 at the same time that the downlink transmitter is coupled to the downlink antenna 212. Conversely, the operations of the two transceivers 210 and 230 may be coordinated in time such that the downlink receiver is coupled to the downlink antenna 212 for reception of transmissions over the wireless transmission link 250 at the same time that the uplink transmitter is coupled to the uplink antenna 232. In some embodiments, there is close time synchronization with a minimal guard time between changes in duplex direction.

[0037] The UE transceiver 230 and the base station transceiver 210 are configured to communicate via the wireless data communication link 250, and cooperate with a suitably configured RF antenna arrangement 212 / 232 that can support a particular wireless communication protocol and modulation scheme. In some illustrative embodiments, the UE transceiver 210 and the base station transceiver 210 are configured to support industry standards such as the Long Term Evolution (LTE) and emerging 5G standards, and the like. It is understood, however, that the present disclosure is not necessarily limited in application to a particular standard and associated protocols. Rather, the UE transceiver 230 and the base station transceiver 210 may be configured to support alternate, or additional, wireless data communication protocols, including future standards or variations thereof.

[0038] In accordance with various embodiments, the BS 202 may be an evolved node B (eNB) , a serving eNB, a target eNB, a femto station, or a pico station, for example. In some embodiments, the UE 204 may be embodied in various types of user devices such as a mobile phone, a smart phone, a personal digital assistant (PDA) , tablet, laptop computer, wearable computing device, etc. The processor modules 214 and 236 may be  implemented, or realized, with a general purpose processor, a content addressable memory, a digital signal processor, an application specific integrated circuit, a field programmable gate array, any suitable programmable logic device, discrete gate or transistor logic, discrete hardware components, or any combination thereof, designed to perform the functions described herein. In this manner, a processor may be realized as a microprocessor, a controller, a microcontroller, a state machine, or the like. A processor may also be implemented as a combination of computing devices, e.g., a combination of a digital signal processor and a microprocessor, a plurality of microprocessors, one or more microprocessors in conjunction with a digital signal processor core, or any other such configuration.

[0039] Furthermore, the steps of a method or algorithm described in connection with the embodiments disclosed herein may be embodied directly in hardware, in firmware, in a software module executed by processor modules 214 and 236, respectively, or in any practical combination thereof. The memory modules 216 and 234 may be realized as RAM memory, flash memory, ROM memory, EPROM memory, EEPROM memory, registers, a hard disk, a removable disk, a CD-ROM, or any other form of storage medium known in the art. In this regard, memory modules 216 and 234 may be coupled to the processor modules 210 and 230, respectively, such that the processors modules 210 and 230 can read information from, and write information to, memory modules 216 and 234, respectively. The memory modules 216 and 234 may also be integrated into their respective processor modules 210 and 230. In some embodiments, the memory modules 216 and 234 may each include a cache memory for storing temporary variables or other intermediate information during execution of instructions to be executed by processor modules 210 and 230, respectively. Memory modules 216 and 234 may also each include non-volatile memory for storing instructions to be executed by the processor modules 210 and 230, respectively.

[0040] The network communication module 218 generally represents the hardware, software, firmware, processing logic, and / or other components of the base station 202 that enable bi-directional communication between base station transceiver 210 and other network components and communication nodes configured to communication with the base station 202. For example, network communication module 218 may be configured to support internet or WiMAX traffic. In a typical deployment, without limitation, network communication module 218 provides an 802.3 Ethernet interface such that base station transceiver 210 can communicate with a conventional Ethernet based computer network. In this manner, the network communication module 218 may include a physical interface for connection to the computer network (e.g., Mobile Switching Center (MSC) ) . The terms “configured for, ” “configured to” and conjugations thereof, as used herein with respect to a specified operation or function, refer to a device, component, circuit, structure, machine, signal, etc., that is physically constructed, programmed, formatted and / or arranged to perform the specified operation or function.

[0041] The Open Systems Interconnection (OSI) Model (referred to herein as, “open system interconnection model” ) is a conceptual and logical layout that defines network communication used by systems (e.g., wireless communication device, wireless communication node) open to interconnection and communication with other systems. The model is broken into seven subcomponents, or layers, each of which represents a conceptual collection of services provided to the layers above and below it. The OSI Model also defines a logical network and effectively describes computer packet transfer by using different layer protocols.  The OSI Model may also be referred to as the seven-layer OSI Model or the seven-layer model. In some embodiments, a first layer may be a physical layer. In some embodiments, a second layer may be a Medium Access Control (MAC) layer. In some embodiments, a third layer may be a Radio Link Control (RLC) layer. In some embodiments, a fourth layer may be a Packet Data Convergence Protocol (PDCP) layer. In some embodiments, a fifth layer may be a Radio Resource Control (RRC) layer. In some embodiments, a sixth layer may be a Non Access Stratum (NAS) layer or an Internet Protocol (IP) layer, and the seventh layer being the other layer.

[0042] Various example embodiments of the present solution are described below with reference to the accompanying figures to enable a person of ordinary skill in the art to make and use the present solution. As would be apparent to those of ordinary skill in the art, after reading the present disclosure, various changes or modifications to the examples described herein can be made without departing from the scope of the present solution. Thus, the present solution is not limited to the example embodiments and applications described and illustrated herein. Additionally, the specific order or hierarchy of steps in the methods disclosed herein are merely example approaches. Based upon design preferences, the specific order or hierarchy of steps of the disclosed methods or processes can be re-arranged while remaining within the scope of the present solution. Thus, those of ordinary skill in the art will understand that the methods and techniques disclosed herein present various steps or acts in a sample order, and the present solution is not limited to the specific order or hierarchy presented unless expressly stated otherwise.

[0043] B. Systems and Methods for Exchanging Federated Learning Configuration Information

[0044] Applying federated learning into wireless networks (e.g., 3GPP networks) may improve the mobility control of user equipment (UE) served by single base station or multiple neighboring base stations. However, federated learning may be difficult to execute in such networks, without any coordination or communication of data. To address these issues, various factors, such the UE habit, UE preference, mobility characteristic, and neighboring cell status may be considered and used to predict the mobility of UE and refine handover (HO) procedures. Using these factors along with instances of model learning models trained and updated using exchanged data, such HO procedures and their accuracies may be improved.

[0045] In fast-changing wireless environments, artificial intelligence / machine learning (AI / ML) models running on devices or network side can adapt to new environments to maintain a desired performance. One solution is to perform online model training (e.g., (re-) training the model with new training data) . By learning the current state of the wireless environment and users’ behavior, the AI / ML may assist intelligent resource management, mobility control and power control decisions and therefore be able to continuously improve network performance over time. Nowadays, the development of mobile edge computing and caching technologies allow for BS 102 to store and analyze the behavior of the UEs 104 of a wireless network.

[0046] Generally, the UE 104 may send raw data to a centralized network entity and the centralized network entity may train the ML model based on the raw data. In some arrangements, training a DNN model can take several hours to multiple days. After the training process, the centralized network entity may use this model for inference or centralized network entity send back the model to UE 104 for inference. However,  centralized network entity-based training means that the enormous amount of training data should be shipped from UEs 104 to the centralized network entity, incurring prohibitive communication overhead as well as data privacy pressure at the network side.

[0047] On the other hand, it is possible to introduce federated learning (FL) into wireless network. By integrating FL into the wireless network, local data can be stored on the UEs 104 and local training can be conducted by UEs 104. The centralized network entity can aggregate and update the local model. This approach addresses the imperative need for data privacy on the UE 104, while effectively coordinating a large number of UEs 104.

[0048] With regard to the wireless network, the centralized network entity can be an application server, OAM server, network function in core network for AI, BS 102 (i.e., can include CU and or DU) , MEC, UE device, among others. The centralized network entity for FL may locate every possible network entity. The centralized network entity can be responsible for participant UE 104 selection, configuration, and global model delivery to the participant UE 104, local model update collection, and / or aggregation to form a global model / inference.

[0049] Compared with another centralized network entity (e.g., APP server, OAM server, etc. ) , the BS 102 can have the UE’s 104 radio capability and channel status information. Thus, BS 102 can be eligible for the federated learning coordination of AI-native radio network. FIGs. 3A–3C each illustrates example 300A-C of BS 102 coordinated federated learning / inference. Example 300A-C includes BS 102 coordinated ML / FL scenarios. In example 300A, one BS 102 can be involved to coordinate the UEs 104 served by the BS 102 to perform the ML / FL. In example 300B and 300C, multiple BSs 102 are involved in the federated learning / inference procedure. In example 300B and 300C, one BS 102 may coordinate with other BSs 102 to jointly perform the federated learning / inference.

[0050] The BS 102 can apply the ML / FL to support the AI / ML based radio resource management, mobility control, load balance, power control, QoS prediction and beam management, etc. In this disclosure, mobility control can be an example to discuss the systematic design of ML / FL in wireless network.

[0051] Mobility control in RRC_IDLE / INACTIVE can be UE-controlled (cell-reselection) , while in RRC_CONNECTED can be controlled by the BS 102 (handover) . For RRC_IDL / INACTIVE UE 104, The UE 104 can acknowledge the radio link quality, UE 104 capability, subscriber type, and access restrictions when (re-) selection occurs. For RRC_CONNECTED UE 104, the BS 102 can decide which target cell the UE 104 should hand over in order to maintain the radio link. In order to select the target cell appropriately, BS 102 generally configures the UE 104 to report measurements of the candidate target cells.

[0052] The RRC_Connected UE 104, may store the location, moving speed, moving direction, moving trajectory, measurement result (e.g., RSRP, RSRQ) of surrounding cells, RLF detected, relevant cells, beam failure, content request, and / or corresponding traffic characteristic, traffic pattern, and / or QoS profile of traffic request. Further, the UE 104 can store the information described herein and may associate with a time stamp. The time stamp can indicate that the users of a given UE may have traffic requirements or locations at different times of a day. For example, the user which held the UE 10 may work at an office in the afternoon, while may  stay at home in the evening. Therefore, the locations and the traffic requirement of the UE 104 are different for daytime and night. Moreover, the user held the UE 104 may move at a high speed when commuting between the office and home. The UE 104 may be stationary or roam occasionally with low speed within office or home. Furthermore, the user may choose to access the network for a data service via Wi-Fi at home indicating that the traffic requirement in the evening may be constrained to a phone call or a SMS service. The UE 104 may record user habits or preference data and the UE 104 can implement the user habits and preference data for mobility control.

[0053] The BS 102 may obtain the UE 104 specific information (e.g., UE’s location, moving status, measurement result report, QoS profile of traffic flows) and the cell specific information (e.g., the PLMN, cell coverage, load status, capability and or supported feature or services) . From this perspective, it is more reasonable to take both BS 102 and UE side information into account for the ML / FL based mobility control.

[0054] EXAMPLE 1

[0055] FIGs. 4A and 4B each illustrate examples 400A-B of BS 102 based online training. In example 400A, the BS1 102 may send the data collection configuration to UE1 104 at step 1. The data collection configuration may include at least one of the following fields: data report periodicity, data report trigger event, report metric, report duration or report times. A data report trigger event may include at least one of the following fields: the speed change is larger than a configured threshold, the direct change is larger than a configured threshold, the RSRP or RSRQ change is larger than a configured threshold, RLF or beam failure is detected. The report metric include at least one of the following fields: location, moving speed, moving direction, moving trajectory (e.g. a list of served cells) , measurement result (e.g. RSRP, RSRQ) of serving cell and or surrounding cells, RLF detection and the relevant cell, beam failure, content request and or corresponding traffic characteristic or traffic pattern, QoS profile of traffic request, time stamp. Once the periodicity timer expires or the event trigger is fulfilled, the UE1 104 sends the data report to BS1 102.

[0056] Moreover, UE1 104 may send the user habit info to BS1 102, for example, the time duration when the UE 104 is mobile and when the UE 104 is stationary. The serving cell can connect to the UE 104 at daytime and night respectively. The time duration of the user chooses to access network for data service via Wi-Fi at home, etc. In some arrangements, mobility control can use the data report.

[0057] Based on the UE1’s 104 data report, the BS1 102 may perform the mobility control model training. It should be noted that BS1 102 may select more UEs 104 to report the data for model training purpose. The UE 104 selection can be based on the UE 104 capability and / or UE 104preference for data collection.

[0058] The BS1 102 may collect data from neighboring BS2 102. In example 400b, the BS1 102 may send the data collection configuration to the neighbor BS 102 and request the neighbor BS 102 to report the BS 102 and / or cell specific information (e.g., the PLMN, serving cell, cell coverage, frequency, load status, capability and or supported feature or services [e.g., sidelink, MBS, NTN, redcap, XR, AI / ML, MEC, etc. ] ) . Based on the BS2’s 102 data report, the BS1 102 may perform the mobility control model training. It should be noted that BS1 102 may select more BSs 102 to report the data for model training purpose. The BS 102 selection can be based on the BS 102 capability and or BS 102 preference for data collection.

[0059] FIG. 5 illustrates an example 500 of BS 102 based mobility control inference. After the model training, BS1 102 may perform the mobility control model inference at step 2, based on the current input data, such as UE 104 measurement report at step 1a, or neighbor BS 102 cell status report at step 1b.

[0060] EXAMPLE 2

[0061] FIG. 6 illustrates an example of BS 102 coordinated federated training and mobility control inference at the UE 104. The UE1 104 may send the AI / ML relevant capability and / or UE 104 preference information to BS1 at step 0. The capability report can include Based on the UE 104 capability report or UE 104 preference information, the BS1 may select a given number of UE2 104 to join the federated learning for a mobility control model, at step 1. For example, suppose UE1 104 can be one of the selected UE 104, BS1 102 can send the FL configuration request information to UE1, at step 2. The FL configuration request information may include at least one of the following fields: FL model function or model ID, FL model size, expected computation resource requirement, expected storage resource requirement, expected power consumption requirement, one shot local training or periodic local training, periodicity for periodic local training, number of training times.

[0062] Upon receiving the FL configuration request, the UE1 104 can determine whether to accept the request or not. The UE1 104 can send the FL configuration response or FL configuration acknowledge info to BS1 102, at step 3. The FL configuration response or FL configuration acknowledge info may include the accepted of FL model function or model ID list, the rejected FL model function or model ID list. For the accepted the FL model function or model ID list, FL configuration response or FL configuration acknowledge info may include accepted number of training times. For the rejected FL model function or model ID list, reject cause is included.

[0063] The BS1 102 can complete the negotiation of UEs 104 and can receive the acceptance from required number of UEs for FL. The BS1 102 can send the model for federated learning to UE1 104, at step 4. Along with the FL model, BS1 102 may send the model parameters, checkpoint, and or expected completion time or deadline for model update to UE1. After receiving the FL model and the aforementioned parameters, the UE1 104 performs the model training based on local data, at step 5.

[0064] In response to the UE1 104 completing one round of model training, the UE1 104 can send the local model update to BS1, at step 6. Moreover, UE1 104 may send the performance data for this local model training to BS1 102 for the local model training. The performance data may include at least one of the following fields: time elapsed for the local training, computation resource consumed, storage resource consumed, power consumed.

[0065] In response to receiving the local model updates from substantial number of UEs 104, the BS1 102 can perform FL aggregation based these local model updates, at step 7. The BS1 102 can send the aggregated model to participant UEs 104 for the next round federated training. In response to reaching a predefined accuracy, the BS1 102 may send the model for inference to the involved UEs 104, at step 8. Based on the well-trained mobility control model, UE1 104 may perform model inference and sends the mobility prediction to BS1 102, at step 9 and step 10.

[0066] In some arrangements, the BS1 102 may request the served UEs 104 to join the federated learning. The BS1 102 can ask for the neighbor BS 102 to request a respective served UE 104 to join the federated learning. FIG. 7 illustrates an example 700 of BS 102 coordinated federated training among the UEs 104 served by the neighbor BS 102. The BS2 102 can send the AI / ML relevant capability or preference info to the BS1 102, at step 0. The BS1 102 can select BS2 102 for FL training. The BS1 102 may send the FL configuration request to BS2, at step 2. The FL configuration request may include the information sent by BS1 102 to UE1 104 as described herein. Moreover, the FL configuration request may include the number of UEs 104. The number of UEs 104 can indicate an expected UE 104 count that the BS2 102 can configure to be involved in the federated learning. After receiving the FL configuration request from BS1, the BS2 102 may decide whether to accept the federated learning request, at step 3. For ease of description, the BS2 102 may trigger the UE 104 selection and send FL configuration procedure similar to step 1, 2, or 3 in FIG. 7. In response to the BS2 102 collecting the accept response from a number of UEs 104 which meets the number of UEs 104 indication, the BS2 102 may send the FL configuration response to accept the federated learning request from BS1, at step 3. In some arrangements, the BS2 102 may indicate the accepted number of UEs 104 in the FL configuration response information.

[0067] In response to receiving the acceptance from BS2, the BS1 102 may send the model for federated learning to BS2 102. Along with the FL model, BS1 102 may further send the model parameters, checkpoint, and or expected completion time or deadline for model update to BS2 102. In response to receiving the FL model and the aforementioned parameters, BS2 102 may begin to configure the served UE 104 to join the federated learning, at step 5. In some arrangements, if the completion of UE 104 selection and configuration occurs before step 3, the BS2 102 may send the FL model and other parameters involved UE 104.

[0068] In response to receiving the local model updates, BS2 102 can send the local model updates to BS1, at step 6. In some arrangements, the BS2 102 may wait until it receives a threshold number of UEs 104’ local model updates before sending the local model updates of multiple UE 104 to BS1 102. Based on local model updates from BS2 102, BS1 102 performs FL aggregation based these local model updates, at step 7. The BS1 102 can send the aggregated model to participant UEs 104 and the involved BS 102 for the next round federated training, at step 8. In response to reaching a predefined accuracy, the BS1 102 may send the model for inference to the involved UEs 104, at step 8. For the involved UE 104 that is served by BS2 102, BS2 102 deliver the model for inference to the served UEs 104.

[0069] Compared with the BS 102 coordinated federated training among UEs 104 served by neighbor BS 102 as shown in FIG. 7, FIG. 8 an example 800 of BS 102 coordinated federated training among the neighbor BS 102 without the use of UEs 104. BS2 102 can perform the local model training at step 5 and send the local model to the BS1 102 at step 6. In response to receiving, the global model, BS1 102 can deliver the global model to BS2 102 and BS2 102 may use the global model to perform model inference at step 8.

[0070] EXAMPLE 3

[0071] FIG. 9 illustrates an example 900 of mobility control model inference at both the UE 104 and the BS 102, UE1 104 may perform the mobility control model inference, at step 1. Based on the inference, the UE1 104 may predict the potential handover (HO) . Based on such prediction, UE1 104 may send the predicted measurement result and or predicted cell list for handover to BS1, at step 2. The predicted cell list and or  predicted measurement result may be further associated with the prediction probability respectively. Upon receiving the mobility prediction from UE1 104, BS1 102 may perform mobility inference at the BS1 102 and make HO decision for UE1 104, at step 3. Finally, UE1 104 may perform HO to BS2 102, at step 4.

[0072] Alternatively, the BS1 102 may perform the mobility control inference independently without the reception of UE’s 104 mobility prediction information. For example, suppose the BS1 102 makes the HO decision for UE1 104 and sends the HO command to UE1 104 and the HO command to the BS2 102. Then UE1 104 can perform HO to the BS2 102.

[0073] EXAMPLE 4

[0074] FIG. 10 illustrates an example 1000 of the UE 104 sending AI / ML capability / preference report to the BS 102. The UE1 104 may send the AI / ML relevant capability or preference report to BS1 102, at step 1. The AI / ML relevant capability include at least one of the following fields: computation capability, storage capability, power limited, supported AI / ML model, federated learning supported, UE 104 side training supported, UE 104 side inference. The UE 104 preference report may include at least one of the following fields: available time for federated learning, one shot or periodic FL.

[0075] FIG. 11 illustrates another example 1100 of the UE 104 sending the AI / ML capability / preference report to the BS 102. Similar to the UE 104 capability / preference report, the BS 102 (e.g., BS1 102, BS2 102) may exchange the AI / ML relevant capability and or preference report with other BS 102 (e.g., BS1 102, BS2 102) , at step 1 and at step 2. The AI / ML relevant capability include at least one of the following fields: computation capability, storage capability, supported AI / ML model, federated learning supported. The preference report may include at least one of the following fields: available time for federated learning, one shot or periodic FL. Based on the capability / preference report, BS 102 may perform the UE 104 selection or BS 102 selection for data collection or federated training.

[0076] Process for Exchanging Federated Learning Configuration information

[0077] FIG. 12 illustrates a flow diagram of a method 1200 for exchanging federated learning configuration information. The method 300 may be implemented using or performed using any of the components detailed herein above, such as the BS 102 or 202 and UE 104 or 204. Additional, fewer, or different operations may be performed in the method 1200 depending on the embodiment. At least one aspect of the operations is directed to a system, method, apparatus, or a computer-readable medium. In overview, at step 1205, a second network element can send a federated learning (FL) configuration request to a first network element. At step 1210, the first network element can receive the FL configuration request from the second network element. At step 1215, the first network element can send the FL configuration response to the second network element. At step 1220, the second network element can receive the FL configuration response from the first network element. At step 1225 and 1225’, the first network element and the second network element can communicate FL related information.

[0078] At step 1205, a second network element can transmit, provide, or otherwise send a FL configuration request to a first network element. The first network element can include at least one of first user equipment (UE) or a first base station (BS) and the second network element can include a second BS. In some embodiments,  the first network element can include a UE and the second network element can include a base station. In some embodiments, the first network element can include a first BS and the second network element can include a second BS in communication with one or more third network elements (e.g., , UEs) . The FL configuration request can identify at least one of: an identifier of a FL model, a size of the FL model, an expected computation resource, an expected storage resource, an expected power consumption, one-shot local training or periodic local training, a periodicity for periodic local training, a number of training times, or a number of third network elements to be used for training.

[0079] At step 1210, the first network element can retrieve, identify, or otherwise receive the FL configuration request from the second network. In some embodiments, the first network element can receive data associated with an instance of a FL model from the second network element. The data associated with the FL model can identify or include at least one of: an identifier of a FL model, the FL model, a plurality of model parameters of the FL model, a checkpoint, an expected completion time, or a deadline for updating of the FL model. The first network element can perform training of an FL model, in response to receipt of data associated with the FL model. In some embodiments, the first network element can configure a third network element to perform local training of an FL model.

[0080] At step 1215, the first network element can transmit, provide, or otherwise send a FL configuration response to the second network element. Based on the FL configuration request, the first network element can identify the FL configuration on the first network element. The FL configuration can identify any number of parameters related to the instance of the FL model on the first network element. The FL configuration response can identify at least one of: FL accept or reject indication, a list of identifiers of accepted FL models, a list of identifiers of rejected FL models, an accepted number of training times for accepted FL models, a rejection cause for rejected FL models, or a number of third network elements involved. With the identification, the first network element can send the FL configuration response.

[0081] At step 1220, the second network element can retrieve, identify, or otherwise receive the FL configuration response from the first network element. Upon receipt, the second network element can perform training on an instance of the FL model on the second network element. The second network element can aggregate the FL model, in response to at least one of: receipt of the local model update information from a plurality of first network elements or the third network elements from which the local model update information are received is larger than a threshold.

[0082] At step 1225 and 1225’, the first network element and the second network element can exchange, convey, or otherwise communicate FL related information. Using the FL related information, the first and the second network element can each update the respective instance of the FL model. In some embodiments, the first network element can retrieve, identify, or otherwise receive local model update and or performance data from a plurality of third network elements. The first network element can aggregate the FL model, in response to receipt of the local model update information from a plurality of third network elements. The first network element can send at least one of: local model update information, weight, the number of third network elements involved, UE ID, performance data to the second network element. The performance data can identify at least  one of: a time elapsed for the local training, start and or end time of the local training, an amount of consumed computation resources, an amount of consumed storage resource, or an amount of consumed power.

[0083] In some embodiments, the first network element can send mobility prediction information to the second network element. The mobility prediction information can identify or include at least one of a predicted measurement result or predicted cell list for handover, predict indication, probability of the prediction. The first network element can receive data collection configuration from the second network element. The data collection configuration can identify or include at least one of a periodicity of data report, a trigger event for the data report, a report metric, a report duration, or report times.

[0084] The first network element can send at least one of an artificial intelligence and machine learning (AI / ML) capability report or a BS preference report to the second network element. The AI / ML capability report identifies at least one of a computation capability, a storage capability, a power limit, an identification of a supported AI / ML model, or an indication of support for FL. The BS preference report identifies at least one of an available time for FL or one of one-shot FL or periodic FL.

[0085] In some embodiments, the first network element and the second network element can exchange, convey, or otherwise communicate information related to measurement. In some embodiments, the first network element can send the data report to the second network element. The data report can identify or include at least one of: a location; a moving speed; a moving direction; a moving trajectory; measured RSRP or RSRQ of a serving cell or surrounding cells; measured RSRP or RSRQ of beams of a serving cell or surrounding cells; a detection of radio link failure (RLF) detection in a relevant cell; a beam failure; content request; a traffic characteristic; a traffic pattern; a quality-of-service (QoS) profile; or a time stamp.

[0086] In some embodiments, the first network element can send user habit information identifying at least one of: a time duration of when the first network element is mobile or a time duration of when the first network element is stationary to the second network element. The first network element can send cell specific information to the second network element. The cell specific information comprises at least one of a public land mobile network (PLMN) , a serving cell, a cell coverage, a frequency, a load status, a capability, supported feature, or a supported service.

[0087] In some embodiments, the first network element can send at least one of a predicted measurement result, a predicted cell list for handover, prediction indication, prediction probability to the second network element. The predicted measurement result comprising at least one of RSRP or RSRQ of a serving cell or surrounding cells; RSRP or RSRQ of a number of best beams of a serving cell or surrounding cells, the corresponding TCI index or SSB index.

[0088] In some embodiments, the first network element can send at least one of an artificial intelligence and machine learning (AI / ML) capability report or a UE preference report to the second network element. The AI / ML capability report identifies at least one of a computation capability, a storage capability, a power limit, an identification of a supported AI / ML model, an indication of support for FL, UE-side training support, or UE-side inference support.

[0089] While various embodiments of the present solution have been described above, it should be understood that they have been presented by way of example only, and not by way of limitation. Likewise, the various diagrams may depict an example architectural or configuration, which are provided to enable persons of ordinary skill in the art to understand example features and functions of the present solution. Such persons would understand, however, that the solution is not restricted to the illustrated example architectures or configurations but can be implemented using a variety of alternative architectures and configurations. Additionally, as would be understood by persons of ordinary skill in the art, one or more features of one embodiment can be combined with one or more features of another embodiment described herein. Thus, the breadth and scope of the present disclosure should not be limited by any of the above-described illustrative embodiments.

[0090] It is also understood that any reference to an element herein using a designation such as "first, " "second, " and so forth does not generally limit the quantity or order of those elements. Rather, these designations can be used herein as a convenient means of distinguishing between two or more elements or instances of an element. Thus, a reference to first and second elements does not mean that only two elements can be employed, or that the first element must precede the second element in some manner.

[0091] Additionally, a person having ordinary skill in the art would understand that information and signals can be represented using any of a variety of different technologies and techniques. For example, data, instructions, commands, information, signals, bits and symbols, for example, which may be referenced in the above description can be represented by voltages, currents, electromagnetic waves, magnetic fields or particles, optical fields or particles, or any combination thereof.

[0092] A person of ordinary skill in the art would further appreciate that any of the various illustrative logical blocks, modules, processors, means, circuits, methods and functions described in connection with the aspects disclosed herein can be implemented by electronic hardware (e.g., a digital implementation, an analog implementation, or a combination of the two) , firmware, various forms of program or design code incorporating instructions (which can be referred to herein, for convenience, as "software" or a "software module) , or any combination of these techniques. To clearly illustrate this interchangeability of hardware, firmware and software, various illustrative components, blocks, modules, circuits, and steps have been described above generally in terms of their functionality. Whether such functionality is implemented as hardware, firmware or software, or a combination of these techniques, depends upon the particular application and design constraints imposed on the overall system. Skilled artisans can implement the described functionality in various ways for each particular application, but such implementation decisions do not cause a departure from the scope of the present disclosure.

[0093] Furthermore, a person of ordinary skill in the art would understand that various illustrative logical blocks, modules, devices, components and circuits described herein can be implemented within or performed by an integrated circuit (IC) that can include a general-purpose processor, a digital signal processor (DSP) , an application specific integrated circuit (ASIC) , a field programmable gate array (FPGA) or other programmable logic device, or any combination thereof. The logical blocks, modules, and circuits can further include antennas and / or transceivers to communicate with various components within the network or within the device. A  general-purpose processor can be a microprocessor, but in the alternative, the processor can be any conventional processor, controller, or state machine. A processor can also be implemented as a combination of computing devices, e.g., a combination of a DSP and a microprocessor, a plurality of microprocessors, one or more microprocessors in conjunction with a DSP core, or any other suitable configuration to perform the functions described herein.

[0094] If implemented in software, the functions can be stored as one or more instructions or code on a computer-readable medium. Thus, the steps of a method or algorithm disclosed herein can be implemented as software stored on a computer-readable medium. Computer-readable media includes both computer storage media and communication media including any medium that can be enabled to transfer a computer program or code from one place to another. A storage media can be any available media that can be accessed by a computer. By way of example, and not limitation, such computer-readable media can include RAM, ROM, EEPROM, CD-ROM or other optical disk storage, magnetic disk storage or other magnetic storage devices, or any other medium that can be used to store desired program code in the form of instructions or data structures and that can be accessed by a computer.

[0095] In this document, the term "module" as used herein, refers to software, firmware, hardware, and any combination of these elements for performing the associated functions described herein. Additionally, for purpose of discussion, the various modules are described as discrete modules; however, as would be apparent to one of ordinary skill in the art, two or more modules may be combined to form a single module that performs the associated functions according to embodiments of the present solution.

[0096] Additionally, memory or other storage, as well as communication components, may be employed in embodiments of the present solution. It will be appreciated that, for clarity purposes, the above description has described embodiments of the present solution with reference to different functional units and processors. However, it will be apparent that any suitable distribution of functionality between different functional units, processing logic elements or domains may be used without detracting from the present solution. For example, functionality illustrated to be performed by separate processing logic elements, or controllers, may be performed by the same processing logic element, or controller. Hence, references to specific functional units are only references to a suitable means for providing the described functionality, rather than indicative of a strict logical or physical structure or organization.

[0097] Various modifications to the embodiments described in this disclosure will be readily apparent to those skilled in the art, and the general principles defined herein can be applied to other embodiments without departing from the scope of this disclosure. Thus, the disclosure is not intended to be limited to the embodiments shown herein but is to be accorded the widest scope consistent with the novel features and principles disclosed herein, as recited in the claims below.

Claims

1.A method, comprising:receiving, by a first network element, a federated learning (FL) configuration request from a second network element; andsending, by the first network element, a FL configuration response to the second network element.2.The method of claim 1, wherein the first network element comprises at least one of first user equipment (UE) or a first base station (BS) and wherein the second network element comprises a second BS.3.The method of claim 1, wherein the FL configuration request identifies at least one of: an identifier of a FL model, a size of the FL model, an expected computation resource, an expected storage resource, an expected power consumption, one-shot local training or periodic local training, a periodicity for periodic local training, a number of training times, or a number of third network elements to be used for training.4.The method of claim 1, wherein the FL configuration response identifies at least one of: FL accept or reject indication, a list of identifiers of accepted FL models, a list of identifiers of rejected FL models, an accepted number of training times for accepted FL models, a rejection cause for rejected FL models, or a number of third network elements involved.5.The method of claim 1, further comprising receiving, by the first network element, data associated with an instance of a FL model from the second network element.6.The method of claim 5, wherein the data associated with the FL model further comprises at least one of: an identifier of a FL model, the FL model, a plurality of model parameters of the FL model, a checkpoint, an expected completion time, or a deadline for updating of the FL model.7.The method of claim 1, further comprising performing, by the first network element training of an FL model, in response to receipt of data associated with the FL model.8.The method of claim 1, wherein the third network element is configured by the first network element to perform local training of an FL model.9.The method of claim 8, further comprising receiving, by the first network element, local model update and or performance data from a plurality of third network elements.10.The method of claim 9, further comprising aggregating, by the first network element the FL model, in response to receipt of the local model update information from a plurality of third network elements.11.The method of claim 7 or 9, further comprising sending, by the first network element, at least one of: local model update information, weight, the number of third network elements involved, UE ID, performance data, to the second network element.12.The method of claim 9 or 11, wherein the performance data identifies at least one of: a time elapsed for the local training, start and or end time of the local training, an amount of consumed computation resources, an amount of consumed storage resource, or an amount of consumed power.13.The method of claim 11, wherein the second network element aggregates the FL model, in response to at least one of: receipt of the local model update information from a plurality of first network elements or the third network elements from which the local model update information are received is larger than a threshold.14.The method of claim 1, further comprising sending, by the first network element to the second network element, mobility prediction information.15.The method of claim 14, wherein the mobility prediction information comprises at least one of a predicted measurement result or predicted cell list for handover, predict indication, probability of the prediction.16.The method of claim 1, further comprising sending, by the first network element to the second network element, at least one of an artificial intelligence and machine learning (AI / ML) capability report or a UE preference report.17.The method of claim 16, wherein the AI / ML capability report identifies at least one of a computation capability, a storage capability, a power limit, an identification of a supported AI / ML model, an indication of support for FL, UE-side training support, or UE-side inference support.18.The method of claim 1, further comprising sending, by the first network element to the second network element, at least one of an artificial intelligence and machine learning (AI / ML) capability report or a BS preference report.19.The method of claim 16 or 18, wherein the AI / ML capability report identifies at least one of a computation capability, a storage capability, a power limit, an identification of a supported AI / ML model, or an indication of support for FL.20.The method of claim 19, wherein the BS preference report identifies at least one of an available time for FL or one of one-shot FL or periodic FL.21.A method, comprising:sending, by a second network element, federated learning (FL) configuration request to a first network element; andreceiving, by the second network element, a FL configuration response from the first network element.22.A non-transitory computer readable medium storing instructions, which when executed by at least one processor, cause the at least one processor to perform the method of any one of claims 1–21.23.An apparatus comprising:at least one processor configured to implement the method of any one of claims 1–21.

Images