Data processing method and related apparatuses

The method enhances radar-based monitoring by classifying and tracking target objects using range-time and range-doppler characteristics, enabling real-time, adaptable, and privacy-respecting safety measures through customized alerting strategies.

WO2025199710A1PCT designated stage Publication Date: 2025-10-02HUAWEI TECH CO LTD
View PDF 5 Cites 0 Cited by

Patent Information

Application Number
PCT/CN2024/083668
Authority / Receiving Office
WO · WO
Patent Type
Applications
Current Assignee / Owner
Filing Date
2024-03-25
Publication Date
2025-10-02

AI Technical Summary

Technical Problem

Existing monitoring systems, particularly radar-based ones, lack the ability to accurately classify and track moving objects, especially humans, in real-time, while ensuring privacy and adapting to different safety requirements in various environments.

Method used

A data processing method using radar data to classify target objects based on range-time and range-doppler characteristics, combined with location information, to determine customized alerting strategies, utilizing pre-trained models and multiple radar sensors for enhanced accuracy and reliability.

Benefits of technology

Enables accurate classification and real-time monitoring of target objects, ensuring robust and adaptable safety measures, reducing unnecessary alerts, and improving privacy by leveraging radar data for precise location tracking.

✦ Generated by Eureka AI based on patent content.

Smart Images

  • Figure CN2024083668_02102025_PF_FP_ABST
    Figure CN2024083668_02102025_PF_FP_ABST
Patent Text Reader

Abstract

Provided are a data processing method and related apparatuses. The method includes: obtaining a classification result for a target object based on radar data from a radar sensor, where the radar data includes moving characteristic of at least one moving object detected by the radar sensor, and the at least one moving object includes the target object (S301); determining an alerting strategy for the target object based on the classification result and current location information of the target object derived based on the radar data from the radar sensor (S302). With the data processing method and related apparatuses, the alerting strategy is specifically customized for the target object in view of its position status, which ensures robust performance and reliable detection, and improves safety of the target object.
Need to check novelty before this filing date? Find Prior Art

Description

DATA PROCESSING METHOD AND RELATED APPARATUSESTECHNICAL FIELD

[0001] The present disclosure relates to the field of communication technologies, and in particular, to a data processing method and an apparatus, a device, a system and a storage medium.BACKGROUND

[0002] Video / image-based monitoring and radar-based monitoring are generally used for presence detection. Regarding the radar-based monitoring, a radar sensor can transmit and receive signals in short range which can be used for context awareness tasks such as presence detection, vital signs monitoring and a moving object localization &tracking. The received signal contains information about the objects in the environment, and the signal reflected by moving objects may change over time.

[0003] This background information is provided to reveal information believed by the applicant to be of possible relevance to the present disclosure. No admission is necessarily intended, nor should be construed, that any of the preceding information constitutes prior art against the present disclosure.SUMMARY

[0004] In a first aspect, an embodiment of the present disclosure provides a data processing method, where the method includes:

[0005] obtaining a classification result for a target object based on radar data from a radar sensor, where the radar data includes moving characteristic of at least one moving object detected by the radar sensor, and the at least one moving object includes the target object;

[0006] determining an alerting strategy for the target object based on the classification result and current location information of the target object derived based on the radar data from the radar sensor.

[0007] According to the method provided by the embodiments of the present disclosure, a classification result for a target object included in the at least one moving object is obtained based on radar data from a radar sensor, and  an alerting strategy for the target object is determined based on the classification result and current location information of the target object. By utilizing radar data, a device can accurately classify the target object from other moving objects detected by the radar sensor. The method takes into account the classification result and current location information of the target object to determine an appropriate alerting strategy, which can ensure that the alerting strategy is specifically customized for the target object in view of its position status, ensure robust performance and reliable detection, and improve safety of the target object. In addition, since the device can continuously processes radar data and derive current location information of the target object in this way, real-time monitoring of the target object’s movement can be realized, and immediate response and alerting can be realized when necessary. What’s more, the method takes into account the classification result and current location information of the target object to determine an appropriate alerting strategy. This adaptability allows for a customized and flexible response, which can enhance the effectiveness of the data processing system.

[0008] In a possible implementation of the first aspect, the moving characteristic of the at least one moving object includes range-time characteristic in a time domain or range-doppler characteristic in a frequency domain of the at least one moving object. By incorporating either the range-time or range-doppler characteristic into the analysis of the moving objects detected by the radar sensor, the ability of the system can be further enhanced in terms of classifying the target object accurately, and track its movement.

[0009] In a possible implementation of the first aspect, the obtaining a classification result for a target object based on radar data collected from a radar sensor includes:

[0010] deriving range-time characteristic or range-doppler characteristic of the target object based on the moving characteristic of the at least one moving object;

[0011] obtaining the classification result for the target object based on the range-time characteristic or range-doppler characteristic of the target object.

[0012] In this way, the system utilizes the range-time or range-doppler characteristic to effectively classify the target object, thereby facilitating the determination of an appropriate alerting strategy based on a movement pattern or behavior of the target object as observed through radar data analysis.

[0013] In a possible implementation of the first aspect, the obtaining the classification result based on the range-time characteristic or range-doppler characteristic of the target object includes:

[0014] inputting the time domain characteristic or frequency domain characteristic of the target object into a first pre-trained model to obtain the classification result, where the first pre-trained model is trained with range-time characteristic or range-doppler characteristic of objects which belong to different classifications.

[0015] The first pre-trained model can effectively capture complex patterns and relationships within the range-time characteristic or range-doppler characteristic of objects, which can improve the accuracy of the classification result. In addition, by using the first pre-trained model which is trained with range-time characteristic or range-doppler characteristic of objects which belong to different classifications, the data processing system can effectively utilize diverse features extracted from radar data for the classification task.

[0016] In a possible implementation of the first aspect, the obtaining the classification result based on the range-time characteristic or range-doppler characteristic of the target object includes:

[0017] determining classification characteristic of the target object based on the range-time characteristic or range-doppler characteristic of the target object, where the classification characteristic includes at least one of a radar cross section (RCS) or a breathing rate of the target object;

[0018] obtaining the classification result based on the classification characteristic of the target object.

[0019] By using the classification characteristic including at least one of an RCS or a breathing rate of the target object to obtain the classification result, the classification of the target object can be more accurate and detailed, while the approach may make the system more computationally efficient.

[0020] In a possible implementation of the first aspect, determining an alerting strategy for the target object based on the classification result and current location information of the target object includes:

[0021] determining whether the target object is within a preset area based on the current location information of the target object;

[0022] upon determining that the target object is within the preset area, determining, based on the classification result, whether a safety requirement corresponding to the preset area for the target object is met;

[0023] upon determining that the safety requirement is met, triggering an alerting prompt.

[0024] By considering the current location information of the target object and the safety requirement corresponding to the preset area for the target object, the adaptability of the system to different areas or zones with specific safety requirements can be improved. In addition, an alerting prompt may only be triggered when the target object is within the preset area and a safety requirement corresponding to the preset area for the target object is met, thus the alerting prompt can be appropriately targeted and unnecessary alerting prompts can be reduced in different scenarios.

[0025] In a possible implementation of the first aspect, the method further includes:

[0026] determining the current location information of the target object based on the radar data from the radar sensor and radar data of the target object from at least one further radar sensor.

[0027] By combining radar data from multiple radar sensors, the accuracy and the overall reliability of the determined current location information of the target object can be improved. In addition, by using multiple radar sensors, the sensing range of the system can be broadened.

[0028] In a possible implementation of the first aspect, the radar data from the radar sensor includes first Time of Arrival (ToA) information of the target object, and the radar data of the target object from the at least one further radar sensor includes second ToA information of the target object;

[0029] where determining the current location information of the target object includes:

[0030] obtaining the second Time of Arrival (ToA) information of the target object from the at least one further radar sensor;

[0031] determining the current location information of the target object based on the first ToA information, the second ToA information and location information of the at least one further radar sensor.

[0032] By utilizing ToA information from multiple radar sensors to determine the current location information of the target object, comprehensive fusion of location information can be allowed, and the accuracy of the determined current location information of the target object can be improved.

[0033] In a possible implementation of the first aspect, the method further includes:

[0034] obtaining prediction location information of the target object based on history location information of the target object;

[0035] where determining the current location information of the target object based on the first ToA information, the second ToA information and location information of the at least one further radar sensor includes:

[0036] determining the current location information of the target object based on the first ToA information, the second ToA information, the location information of the at least one further radar sensor and the predicted location information of the target object.

[0037] By considering the history location information and incorporating the predicted location, a potential delay can be accounted for in obtaining real-time location information, which can improve accuracy of the determined current location information of the target object, and improve safety of the target object.

[0038] In a possible implementation of the first aspect, the determining whether the target object is within a preset area based on the current location information of the target object includes:

[0039] determining, based on the history location information of the target object and the current location information of the target object, a movement pattern of the target object, where the movement pattern includes a moving speed and a moving direction of the target object;

[0040] determining whether the target object is within the preset area based on the movement pattern of the target object and a range of the preset area.

[0041] By continuously updating the movement pattern based on the current location information and the history location information, ongoing assessments of the target object’s position relative to the preset area can be provided, which allows for a timely alert or action when necessary.

[0042] In a possible implementation of the first aspect, the determining whether the target object is within a preset area based on the current location information of the target object includes:

[0043] inputting the current location information of the target object and a range of the preset area into a second pre-trained model to obtain a result of the determination of whether the target object is within the preset area, where the second pre-trained model is trained with predefined safe and danger events related to the preset area.

[0044] In this way, the system’s capacity can be strengthened to determine whether the target object is within the preset area based on its current location information, and efficiency of decision-making can be improved.

[0045] In a possible implementation of the first aspect, the classification result includes a classification to which the target object belongs.

[0046] In a possible implementation of the first aspect, the classification result further includes a confidence level corresponding to the classification. The confidence level can indicate the accuracy and reliability of the classification result, which can help improving the accuracy of the determination.

[0047] In a second aspect, an embodiment of the present disclosure provides a data processing apparatus, the apparatus includes various modules configured to execute the data processing method according to the first aspect or any possible implementation of the first aspect.

[0048] In a third aspect, an embodiment of the present disclosure provides a device including processing circuitry for executing the data processing method according to the first aspect or any possible implementation of the first aspect.

[0049] In a fourth aspect, an embodiment of the present disclosure provides a wireless communication system, including the device according to the third aspect.

[0050] In a fifth aspect, an embodiment of the present disclosure provides a computer-readable medium storing computer execution instructions which, when executed by a processor, causes the processor to execute the data processing method according to the first aspect or any possible implementation of the first aspect or according to the second aspect or any possible implementation of the second aspect.

[0051] In a sixth aspect, an embodiment of the present disclosure provides a computer program, when executed  by a processor, causes the processor to execute the data processing method according to the first aspect or any possible implementation of the first aspect.

[0052] In a seventh aspect, an embodiment of the present disclosure provides a computer program product including computer execution instructions which, when executed by a processor, causes the processor to execute the data processing method according to the first aspect or any possible implementation of the first aspect.

[0053] The present disclosure provides a data processing method and related apparatuses. A classification result for a target object is obtained based on radar data from a radar sensor, the radar data includes moving characteristic of at least one moving object detected by the radar sensor, where the at least one moving object includes the target object, and an alerting strategy for the target object is determined based on the classification result and current location information of the target object derived based on the radar data from the radar sensor. By utilizing radar data, a device can accurately classify the target object from other moving objects detected by the radar sensor. The method takes into account the classification result and current location information of the target object to determine an appropriate alerting strategy, which can ensure that the alerting strategy is specifically customized for the target object in view of its position status, ensure robust performance and reliable detection, and improve safety of the target object.BRIEF DESCRIPTION OF DRAWINGS

[0054] Reference will now be made, by way of example, to the accompanying drawings which show example embodiments of the present disclosure, and in which:

[0055] FIG. 1 is a schematic diagram of an example of sensing of human movement using a radar signal.

[0056] FIG. 2 is a schematic illustration of an example of classified target detection in a danger zone according to one or more embodiments of the present disclosure.

[0057] FIG. 3 shows a schematic flowchart of a data processing method according to one or more embodiments of the present disclosure.

[0058] FIG. 4 is a schematic illustration of an example of a signal processing step for detection according to one or more embodiments of the present disclosure.

[0059] FIG. 5a is schematic illustration of range-time characteristic of at least one moving object according to one or more embodiments of the present disclosure.

[0060] FIG. 5b is schematic illustration of range-doppler characteristic of at least one moving object according  to one or more embodiments of the present disclosure.

[0061] FIG. 6 is a schematic diagram of an example of safety monitoring with multiple radar sensors according to one or more embodiments of the present disclosure.

[0062] FIG. 7 is a flowchart of signal processing steps with a radar sensor for child safety in a danger zone.

[0063] FIG. 8 shows a schematic structural diagram of a data processing apparatus according to one or more embodiments of the present disclosure.

[0064] FIG. 9 illustrates a schematic structural diagram of a data processing device according to one or more embodiment of the present disclosure.DESCRIPTION OF EMBODIMENTS

[0065] In the following description, reference is made to the accompanying figures, which form part of the present disclosure, and which show, by way of illustration, specific aspects of embodiments of the present disclosure or specific aspects in which embodiments of the present disclosure may be used. It is understood that embodiments of the present disclosure may be used in other aspects and include structural or logical changes not depicted in the figures. The following detailed description, therefore, is not to be taken in a limiting sense, and the scope of the present disclosure is defined by the appended claims.

[0066] To assist in understanding the present disclosure, examples of wireless communication systems and devices are described below.

[0067] FIG. 1 is a schematic diagram of an example of sensing of human movement using a radar signal. Video / image-based monitoring and radar-based monitoring are generally used for presence detection. Regarding the radar-based monitoring, as shown in FIG. 1, a radar sensor (or referred to as radar) transmits and receives signals in short range which can be used for the context awareness tasks such as presence detection, vital signs monitoring and a moving object localization &tracking. FIG. 1 shows the principle of the radar sending and receiving the pulses which are reflected from the objects in the environment.

[0068] In related art, some monitoring methods are video / image-based presence detection monitoring. Videos can be used for detecting the presence of human, as well as being used for detecting the anomaly when the target gets closer to the boundary of the restricted area. Besides, there are some approaches in the related art which adopt radar based monitoring, however, the radar sensors are generally used for detection and ranging only, and further detection of human or another object is still based on videos.

[0069] Such video / image related monitoring may have following problems:

[0070] (1) It invades user privacy as it gets the image and video of the environment and the humans. Since it uses video so it is not suitable for applications where privacy is important such as at homes or offices.

[0071] (2) It may not perform well in environments such as foggy weather, especially highly lighted or dark environments.

[0072] Besides, in the real word, simply knowing the presence of a human may not be sufficient, the inventor observes that the monitoring of the human may be helpful in real life. Moreover, different targets may correspond to different safety requirements, that may be of particular use in some scenarios. Therefore, on the premise of ensuring privacy protection, the method for classified target detection (or referred to as classified presence detection, which may include detection of target (s) and further classification of the detected target (s) ) and setting out appropriate alerting strategies for the detected targets is needed.

[0073] In view of the above, the present disclosure provides a data processing method in which a classification result for a target object (or referred to as target) is obtained based on radar data from a radar sensor, and an alerting strategy for the target object is determined based on the classification result and current location information of the target object. The method takes into account the classification result and current location information of the target object to determine an appropriate alerting strategy, which can ensure that the alerting strategy is specifically customized for the target object in view of its position status, ensure robust performance and reliable detection, and improve safety of the target object.

[0074] FIG. 2 is a schematic illustration of an example of classified target detection in a danger zone according to one or more embodiments of the present disclosure. The objective of the present disclosure is to detect the presence of a classified target in a certain area for the purpose of safety. This disclosure uses radar sensors to detect the presence, classify the target with other interference objects. It then analyzes the movement pattern and continuously monitors the distance of the classified target from the safety boundary of the restricted area and gives alarm when the distance of the classified target to the boundary is below a set threshold and indicates that the target is in the danger zone. This disclosure therefore solves the problem of a target safety in an area where the safety boundary of the area is restricted and hence there is a need for continuous monitoring for a classified target in all weather and lighting conditions.

[0075] The idea of the proposed solution will be described briefly before elaborating detailed embodiments of the present disclosure.

[0076] The signal received by a radar (radar signal) contains information about the objects in the environment.  If the radar signal is observed over a certain period of time, then we may notice that the static objects such as the chair, table, floor and ceiling have constant signal over multiple time frames at the receiver and hence it can be removed, e.g., using an MTI filter. On the other hand, the radar signal reflected by moving objects change over time. Therefore, the moving objects can be detected after the MTI filter is applied to the radar signal containing raw data at the receiver. The radar signal here may have multiple radar frames, that is, the radar signal received by the radar sensor is a signal in multiple time durations, each frame may contain distance information of static object (s) and / or moving object (s) , e.g., each frame may contain a distance between the radar sensor and any object in the coverage of the radar sensor, so the MIT filter can be used for determining which part of energy is related to the moving object (s) and which part of energy is related to the static object (s) , so as to remove information about the static object (s) .

[0077] Although there may be many moving objects in the environments such as fan, moving curtain, kids, adults and other small moving objects, however, these objects can be classified based on features such as the temporal and spectral characteristics. The presence of the classified target is identified by using such methods. Signal processing and AI methods can be used to detect the human target or pet animal and differentiate the human target or pet animal from other static or moving clutter objects in the environments.

[0078] Another important information is the distance of the target to the radar. As one possible implementation, this information can be obtained by using ToA (or referred to as ToA data) of the radar signal. Besides, multiple radars in a network can be used for the localization of the target, so as to improve the accuracy of the localization. If we use multiple radar sensors, then the range from each radar to the target may be obtained by measuring the ToA of the radar signal. Then the multiple ranges can be obtained by using, e.g., multi-literation algorithms to get the 2D or 3D position of the (human) target.

[0079] In the present disclosure, the system of radar sensors for protecting classified target is provided. A device with radar functions for classified target detection as well as target localization in 2D / 3D scenarios is provided. A method and a procedure are provided for radar sensors to detect and classify the target by comparing the target’s characteristic with pre-defined characteristics of specific classified target (s) . Main features extracted for the classification of the target as pet animal, child or adult human, could be, e.g., RCS of the target, a breathing frequency of the target and the spectral characteristics of the target. An algorithm is provided to sense the danger by using movement patterns of the target and the location of the classified target in reference to the boundaries of a region.

[0080] Specific embodiments of the present disclosure will be elaborated in the following description.

[0081] FIG. 3 shows a schematic flowchart of a data processing method according to one or more embodiments  of the present disclosure. The method can be applied to a wireless communication or other communication system using a radar sensor, which is not limited here. The data processing method can be implemented by a data processing apparatus / device. Optionally, the data processing device itself may be integrated with a radar, or itself is not integrated with the radar, but can obtain a radar signal or store a radar signal, or other component that has similar function, which is not limited herein. As shown in FIG. 3, the method can include the following steps.

[0082] S301, obtain a classification result for a target object based on radar data from a radar sensor, where the radar data includes moving characteristic of at least one moving object detected by the radar sensor, and the at least one moving object includes the target object.

[0083] In the embodiment, a device obtain a classification result for a target object based on radar data from a radar sensor. The radar data includes moving characteristic of at least one moving object detected by the radar sensor, and the at least one moving object includes the target object. The radar data may be analyzed to differentiate and identify the target object from other moving objects detected by the radar sensor. The radar data obtained from the radar sensor may include various types of information and parameters that may be used for detecting, tracking, and analyzing targets in the surrounding environment. The radar data may be included in a radar signal, so the obtaining of the radar data may be implemented as the reception of the radar signal, or it is also possible that the radar data is obtained from another device which receives the radar signal, in this case, the obtaining of the radar data may also be called as the inputting of the radar data.

[0084] In a possible implementation, the device may obtain radar data from multiple radar sensors.

[0085] In a possible implementation, the classification result may include a classification / category to which the target object belongs. The classification may include an adult, a child, an elderly, an animal (e.g., pet) , or the like. The classification of the target object will show to which category the target object belongs.

[0086] In a possible implementation, the classification result may further include a confidence level corresponding to the classification. The confidence level may serve as an indicator of how certain or reliable the classification result is, or, the probability that the target object belongs to the classification / category. For example, in the case where the classification is done by virtue of a model, such confidence level may reflect how certain or reliable the model is in assigning the target object to a specific category or class. The device may make the decision based on the confidence level, which can help improving the accuracy of later determination in step S302.

[0087] In a possible implementation, the moving characteristic of the at least one moving object may include range-time characteristic in a time domain or range-doppler characteristic in a frequency domain of the at least one moving object. The range-time characteristic may represent a relationship between the distance (range) of an object  from the radar sensor and the time it takes for the radar signal to travel to the object and back (round-trip time) . The range-doppler characteristic may represent a relationship between the distance (range) of an object from the radar sensor and a doppler shift of a detected object. The doppler shift component of the range-doppler characteristic relates to the change in frequency of the returned radar signal caused by the motion of the detected object. When an object is moving towards or away from the radar sensor, the radar waves experience a frequency shift, which is the doppler shift and is directly proportional to the object’s radial velocity. By incorporating either the range-time or range-doppler characteristic into the analysis of the moving objects detected by the radar sensor, the ability of the system can be further enhanced in terms of classifying the target object accurately, and track its movement.

[0088] In a possible implementation, the device may obtain a radar signal from a radar sensor, may process the radar signal to obtain a processed radar signal by using a MTI filter, and may perform moving object detection based on the processed radar signal, to identify at least one moving object. FIG. 4 is a schematic illustration of an example of a signal processing step for detection according to one or more embodiments of the present disclosure. As shown in FIG. 4, a signal received by a radar sensor through a receiver antenna may be sampled through an analog-to-digital converter (ADC) of the radar sensor to obtain raw data in a form of In-phase and Quadrature (I / Q) sample. The received signal by the radar sensor may contain the information about the environment which includes static and moving objects. The signal may be then processed with MTI filter to remove the static objects in the environments such as the signals from the floor, ceiling, chairs and other static objects. The filtered signal may only contain the information about the moving objects such as humans, fans or other targets whose RCS changes over time. After the received signal is processed with an MTI filter to remove the static objects in the environments, radar frames of the filter signal (or called the clutter removed signal) may be then combined for a certain period of time in a matrix. The size of the matrix depends on the slow time sampling frequency of the radar sensor and it can be adjusted experimentally. The matrix is in the time and range domain. This matrix is then processed through e.g., an FFT algorithm to get the range-doppler matrix. The range-doppler matrix may be then used for presence detection of a moving object by applying e.g., a cell averaging constant false alarm rate (CA-CFAR) algorithm. Here the CA-CFAR algorithm (or referred to as CFAR detection) may be simply used for detecting whether a moving object is present or not, so the CFAR decision is to show whether there is a moving object or not.

[0089] In a possible implementation, the device may derive range-time characteristic or range-doppler characteristic of the target object based on the moving characteristic of the at least one moving object, and may obtain the classification result for the target object based on the range-time characteristic or range-doppler characteristic of the target object. The moving characteristic of the at least one moving object may include range- time characteristic or range-doppler characteristic of all of the at least one moving object detected by the radar sensor. FIG. 5a is schematic illustration of range-time characteristic of at least one moving object according to one or more embodiments of the present disclosure. FIG. 5b is schematic illustration of range-doppler characteristic of at least one moving object according to one or more embodiments of the present disclosure. As shown in FIG. 5a and FIG. 5b, the range-time characteristic may be represented by a range-time (RT) map, and the range-doppler characteristic may be represented by a range-doppler (RD) map. As mentioned above, the radar signal may have multiple radar frames, so here the combined clutter removed signal refer to the combination of distance information of moving object (s) contained in the multiple radar frames, for each of the multiple radar frames, the distance information contained therein can be reflected in an RT map with the horizontal axis being time and the vertical axis being distance, and RD map could be obtained by applying FFT operation to the RT map.

[0090] A clustering algorithm may be applied based on the moving characteristic of the at least one moving object to derive range-time characteristic (time domain characteristic) or range-doppler characteristic (frequency domain characteristic) of the target object, and each cluster may represent a distinct target object. The specific method for deriving range-time characteristic or range-doppler characteristic of the target object based on the moving characteristic of the at least one moving object may not be limited here. After obtaining the range-time characteristic or range-doppler characteristic of the target object, the device can classify the target object and obtain the classification result for the target object based on the range-time characteristic or range-doppler characteristic of the target object. In this way, the system can utilize the range-time or range-doppler characteristic to effectively classify the target object (s) to obtain the target object, thereby facilitating the determination of an appropriate alerting strategy based on a movement pattern or behavior of the moving object as observed through radar data analysis.

[0091] In order to achieve the classified target detection, different hand crafted as well as AI based extracted features may be used for the classification task. The tasks of classification may be to classify between human and non-human targets such as pets, fan or curtain. Then, adult / child classification can be further considered for some applications after the human is detected. Moreover, infants can also be classified based on the distinct features. The input radar data may be represented in time domain (RT map, which contains range-time characteristic of at least one moving object) or in frequency domain (RD map, which contains range-doppler characteristic of at least one moving object) .

[0092] In a possible implementation, the device may input the time domain characteristic or frequency domain characteristic of the target object into a first pre-trained model to obtain the classification result, where the first pre-trained model may be trained with range-time characteristic or range-doppler characteristic of objects which belong  to different classifications / categories. For example, the time characteristic of one or more objects may be positioned on the RT map, the frequency characteristic of one or more objects may be positioned on the RD map. Then the RT and RD map can work as two different input to the first pre-trained model, so time and / or frequency characteristics can be input to an AI algorithm. The AI based classification algorithm may be used to classify the target based on the features from the time domain i.e. RT and / or features from the frequency domain i.e. RD map. The first pre-trained model may be a deep learning AI model such as a convolutional neural network (CNN) , long short-term memory (LSTM) or can be other machine learning models such as Logistic regression, decision tree, random forest, histogram of oriented gradients (HOG) support vector machine (SVM) . The model may be first trained with range-time characteristic or range-doppler characteristic of objects which belong to different classifications. For example, the model may be trained with data from each case such as the data of adult individuals, children and other objects such as pets, fans, vehicles, curtains depending on the considered application scenario. After the model is trained, the online data coming from the radar sensors can be used as input of the model, so that the trained model can give the classification results.

[0093] The first pre-trained model can effectively capture complex patterns and relationships within the range-time characteristic or range-doppler characteristic of objects, which can improve the accuracy of the classification result. In addition, by using the first pre-trained model which is trained with range-time characteristic or range-doppler characteristic of objects which belong to different classifications, the data processing system can effectively utilize diverse features extracted from radar data for the classification task.

[0094] The signal processing-based algorithm may also be used to make the final decision. The signal processing algorithm may use the radar cross sections (RCSs) of different targets for classification. In a possible implementation, the device may determine classification characteristic of the target object based on the range-time characteristic or range-doppler characteristic of the target object, where the classification characteristic includes at least one of an RCS or a breathing rate of the target object, and the device may obtain the classification result based on the classification characteristic of the target object.

[0095] By using a signal processing algorithm, the RCS of the target may be used as a classification criterion for target classification such as adult and child, because the RCS is proportional to the size of the target. If the target is small, then the echo signal (reflected signal) from the target object will be spread along fewer range bins in the RT map as compared to the larger size target. A threshold value may be set to separate the RCS values into distinct categories corresponding to different target types. When a target is detected and its RCS value is obtained, it can be compared against the predetermined threshold. If the RCS value exceeds the threshold, the target can be classified  as one type (e.g., adult) , and if it falls below the threshold, it can be classified as another type (e.g., child) . Here the threshold is used for distinguishing different categories of objects and can be set according to actual needs.

[0096] Additionally, breathing frequencies of the child and adult differ significantly, therefore the spectral features may also be used for the classification of adult and child. The RD map contains the spectral features of the target object. For example, upon determining the range-doppler characteristic of a moving object on the RD map, the breathing frequency can be determined to be the maximum frequency component among them. If we start from the RT map, an FFT operation may be applied to the RT map, so as to obtain an RD map, and then the breathing frequency may be determined in the same way. The breathing rate-based features, including the average or range of breathing frequencies, can be used to differentiate between different types of target objects. Signal processing algorithms can quantify and analyze these features to capture the unique breathing patterns associated with adults, children, and pets. The breathing rate ranges are different for adult human, child and for pet animals. The range of adults is higher as compared to the children breathing rate. Generally, the pets have much faster breathing rates than humans. The normal respiratory rate for resting adults is generally considered to be between 12 and 20 respirations per minute. In the elderly population, a respiratory rate higher than 28 respirations per minute is considered tachypneic (abnormally rapid breathing) . Children typically have higher respiratory rates compared to adults. The median respiratory rate in the first two years of life decreases from around 44 respirations per minute at birth to approximately 26 respirations per minute during their second year. The RT map in FIG. 5a, the RD map in FIG. 5b and breathing rate-based features may be used for signal processing algorithms for classification of the target.

[0097] By using the classification characteristic including at least one of an RCS or a breathing rate of the target object to obtain the classification result, the classification of the target object can be more accurate and detailed, while the approach may make the system more computationally efficient. The choice of using hand crafted features-based classification or AI model-based classification depend on various factors such as the memory, computation requirements and availability of training data for the considered application. In some cases, both the signal processing and AI approaches may be combined for better performance. Combining hand-crafted features with AI models can leverage the strengths of both approaches. Hand-crafted features can provide a structured input representation for AI models, which can enhances performance, and the interpretability of hand-crafted features can complement the black-box nature of AI models. Besides, if both the result the signal processing and AI approaches are applied, results derived from the signal processing and AI approaches may be compared with each other for calibration purpose.

[0098] S302, determine an alerting strategy for the target object based on the classification result and current location information of the target object derived based on the radar data from the radar sensor.

[0099] In the embodiment, the device determines an alerting strategy for the target object based on the classification result and current location information of the target object, and the current location information of the target object is derived based on the radar data from the radar sensor. For example, the radar data contains distance information reflecting a distance between the target object and the radar sensor which receives the radar signal, so the current location information can be derived based on such distance information (or further based on the location information of the radar sensor if necessary) . It is possible that the target object may be an object corresponding to a specific safety requirement, so a customized alerting strategy may be determined based on the classification result and current location information of the target object.

[0100] According to the method provided by the embodiments of the present disclosure, a classification result for a target object included in the at least one moving object is obtained based on radar data from a radar sensor, and an alerting strategy for the target object is determined based on the classification result and current location information of the target object. By utilizing radar data, a device can accurately classify the target object from other moving objects detected by the radar sensor. The method takes into account the classification result and current location information of the target object to determine an appropriate alerting strategy, which can ensure that the alerting strategy is specifically customized for the target object in view of its position status, ensure robust performance and reliable detection, and improve safety of the target object. In addition, since the device can continuously processes radar data and derive current location information of the target object in this way, real-time monitoring of the target object’s movement can be realized, and immediate response and alerting can be realized when necessary. What’s more, the method takes into account the classification result and current location information of the target object to determine an appropriate alerting strategy. This adaptability allows for a customized and flexible response, which can enhance the effectiveness of the data processing system.

[0101] In a possible implementation, the device may determine whether the target object is within a preset area based on the current location information of the target object. Upon determining that the target object is within the preset area, the device may determine whether a safety requirement corresponding to the preset area for the target object is met based on the classification result, and upon determining that the safety requirement is met, the device may trigger an alerting prompt.

[0102] When the device determines that the target object is within a preset area based on the current location information of the target object, the device may further determine whether a safety requirement corresponding to the preset area for the target object is met. The safety requirement may be related to the preset area. The alerting prompt may include at least one of: an audible alarm, a visual alert, a mobile notification, a smart home device alert, a  wearable device notification, a text message or call, or an application notification, or the like. In some cases, the alert prompt may trigger an action within a broader security system, such as activating a surveillance camera, unlocking a door for emergency access, or initiating an automated emergency response. The specific form of the alert prompt can be determined according to actual needs, which will not be limited here.

[0103] For example, near a balcony, where the presence of an adult is generally considered safe, the focus of monitoring may primarily revolve around the child / sproximity to the potentially hazardous edges. This could involve detecting if a child approaches the balcony’s edge or enters an unsafe zone, triggering alerts and interventions accordingly. That is to say, when the preset area includes a preset area of balcony, the safety requirement may be to monitor the safety of children. When the target object is determined within the preset area, and the classification result of the target object is determined to be a child, the device may trigger an alerting prompt.

[0104] In a bedside setting, the focus may be on ensuring the safety of the child during sleep or playtime, with monitoring intended to identify any situations that could pose a risk to the child’s well-being. That is to say, when the preset area includes a preset area of bedside setting, the safety requirement may be to monitor the safety of children. When the target object is determined within the preset area, and the classification result of the target is determined to be a child, the device may trigger an alerting prompt.

[0105] When near an open high platform, both of the child and the adult need to be monitored. The open high platform may include: a scenic mountain, an observation deck and a lookout point, an amusement park ride platform (such as a high platform of a roller coaster, a high platform of a ferris wheel) , a construction and work platform. In this case, the preset area may include a preset area of the open high platform (which may be a safety line) , the safety requirement may be to monitor the safety of children and adults. When the target object is determined within the preset area, and the classification result of the target is determined to be a child or an adult, the device may trigger an alerting prompt.

[0106] In some scenarios, a pedestrian is not allowed to pass, and in such cases, the focus of monitoring would be on ensuring that only vehicles, not pedestrians, enter the restricted area. For example, some roads, bridges, or tunnels may be designated for vehicle use only. For another example, a runways and a taxiway at an airport are strictly reserved for aircraft movement. In such cases, the safety requirement may be to monitor the safety of children and adults. When the target object is determined within the preset area, and the classification result of the target is determined to be a child or an adult, the device may trigger an alerting prompt.

[0107] By considering the current location information of the target object and the safety requirement corresponding to the preset area for the target object, the adaptability of the system to different areas or zones with  specific safety requirements can be improved. The method may facilitate real-time responsiveness by continuously monitoring the target object’s location and dynamically assessing the safety requirement. This enables prompt alerting when the conditions warrant action, ensuring that potential safety issues are addressed in a timely manner. In addition, an alerting prompt may be triggered simply in the case where the target object is within the preset area and a safety requirement corresponding to the preset area for the target object is met, thus the alerting prompt can be appropriately targeted and unnecessary alerting prompts can be reduced in different scenarios.

[0108] In a possible implementation, the device may determine the current location information of the target object based on the radar data from the radar sensor and radar data of the target object from at least one further radar sensor. Multiple radar sensors may be installed in a monitoring area. A field of view (FOV) of these radar sensors may cover the whole region of interest. The radar signal resolution may be fine enough to detect the small distance changes or movements of the target. For example, the required number of radars for 2 dimensional (2D) localization scenarios may be 3 and for 3 dimensional (3D) localization scenarios may be 4. The 3D scenarios may be necessary when the height information is important such as the child climbing through a boundary wall of a balcony in a high floor home. In FIG. 6, the complete flowchart of the system may be represented by 4 radar sensors. However, if the intended application is a 2D scenario then it may use 3 radars as well. In case of small space with limited geometry, even 2 radar are enough for 2D localization. The number of radar sensors depend on the application scenario.

[0109] By combining radar data from multiple radar sensors, the accuracy and the overall reliability of the determined current location information of the target object can be improved. In addition, by using multiple radar sensors, the sensing range of the system can be broadened.

[0110] In a possible implementation, the radar data from the radar sensor may include first Time of Arrival (ToA) information of the target object, and the radar data of the target object from the at least one further radar sensor includes second ToA information of the target object. The device may obtain the second ToA information of the target object from the at least one further radar sensor, and the device may determine the current location information of the target object based on the first ToA information, the second ToA information and location information of the at least one further radar sensor.

[0111] In a possible implementation, the device may obtain prediction location information of the target object based on history location information of the target object, the device may determine the current location information of the target object based on the first ToA information, the second ToA information, the location information of the at least one further radar sensor and the predicted location information of the target object. By considering the history location information and incorporating the predicted location, a potential delay can be accounted for in obtaining  real-time location information, which can improve accuracy of the determined current location information of the target object, and improve safety of the target object.

[0112] In a possible implementation, the device may obtain a measured state based on position information of the at least one further radar sensor and the second ToA information of the target object by using e.g., a multi-lateration algorithm. In a possible implementation, the device may obtain a future state based on history position information of the target object by using e.g., a multi-lateration algorithm. The history position information of the target position may be stored in the device or may be obtained from the at least one further radar sensor. In a possible implementation, the device may determine the current location information of the target object according to at least one of the measured state or the future state.

[0113] By utilizing ToA information from multiple radar sensors to determine the current location information of the target object, comprehensive fusion of location information can be allowed, and the accuracy of the determined current location information of the target object can be improved.

[0114] FIG. 6 is a schematic diagram of an example of safety monitoring with multiple radar sensors. As shown in FIG. 6, after the data collection, MTI filtering and CFAR decision, the range of target may be detected based on the ToA of the signal. The system in FIG. 6 has multiple radar sensors, and one of the multiple radar sensors may act as a master node, and other radar sensors may act as anchor nodes (specific examples of the above further radar sensor) . The anchor node may perform presence detection and if the CFAR decision is positive (means the presence of a target is detected by the radar) , then the radar may find distance of the target to the radar based on a strongest magnitude sample in a radar frame. The ToA of the strong sample will be used to calculate the range of the target. The target range information from the anchors will be transmitted to the master node using wireless technologies such as Zigbee, wireless fidelity (WIFI) , Bluetooth (BLE) . It should be noted that FIG. 6 shows a case where all nodes detect the presence of a target object (or referred to as target for short, the target may be for example, a moving child or an adult, etc. ) , and the classification of the target is done at the master node.

[0115] Since multiple radar sensors may be used, so the data from these radars will be collected and processed. One of the radars is assigned the role of the master anchor which will do most of the data processing tasks. The rest of the ‘N’ radar sensors will be anchor nodes and mainly they will do presence detection using e.g., CFAR algorithm and then the ranging of the target. The range of the target is determined from the ToA of the received signal by the radar.

[0116] Since there are multiple radar sensors and each of the radar performs CFAR for the presence detection of the target in the same region. Due to the different locations of the multiple radars in the space, it might be possible  that a target may be detected by one radar and missed by another radar. Therefore, the final target presence detection decision is made at the master node. If two or more of the anchor and master nodes will result in target presence detection then it means a target is present in the area with high probability so the master node will make the target detection decision and process the other steps for localization and safety warning alert. After receiving the range information from at least 2 anchors, the localization will be initiated by the master node. Here the master node may be a fixed radar sensor, or a radar sensor whose processing capability is the strongest.

[0117] For the localization, the ToA data from the ‘N’ anchor nodes as the master node may be used and combined through e.g., a multi-lateration algorithm. The location of each anchor node is known to the master node. The information of the location of each node and the distance of the target from each anchor are used to estimate the target location in the 2D / 3D space. Since the distance information may contain noise such as measurement or system noise, so to reduce the noise, a state estimation algorithm may be used. The state estimation algorithm may use the history position of the target and predict the future state of the target based on the history. The current position of the target is then estimated from the predicted state and the measured state. One of such estimation algorithms is Kalman filter.

[0118] After the localization of the classified target within the boundary of the safety environment, the next step is to analyze the location data and the input features for possible danger detection. The classified target movement pattern and tracking information may be used for the danger detection. There will be pre-defined criteria for the danger detection. These danger condition may be manually defined for signal processing algorithms such as the co-ordinates of the danger boundary. If the current target co-ordinates and the pre-defined co-ordinates for the danger boundary are close then the danger detection warning may be generated.

[0119] In a possible implementation, the device may determine a movement pattern of the target object, where the movement pattern may include a moving speed and a moving direction of the target object based on the history location information of the target object and the current location information of the target object, and the device may determine whether the target object is within the preset area based on the movement pattern of the target object and a range of the preset area. By continuously updating the movement pattern based on the current location information and the history location information, ongoing assessments of the target object’s position relative to the preset area can be provided, which allows for a timely alert or action when necessary.

[0120] In a possible implementation, the device may input the current location information of the target object and a range of the preset area into a second pre-trained model to obtain a result of the determination of whether the target object is within the preset area, where the second pre-trained model may be trained with predefined safe and  danger events related to the preset area. The second pre-trained model may be trained with predefined safe and danger events related to the preset area, and by utilizing the input data and the knowledge gained from the pre-training, the second pre-trained model may assess whether the target object is within the preset area. In this way, the system’s capacity can be strengthened to determine whether the target object is within the preset area based on its current location information, and efficiency of decision-making can be improved.

[0121] However, in case of machine learning algorithms data may be provided which consist of danger cases and safe cases for learning the model during the training phase. Later, the learning model can perform the real time danger detection based on the result of the machine learning algorithm. The safety alert algorithm is implemented at a master node (MN) .

[0122] An exemplary scenario of the controlling method of the present disclosure will be described in the following description for ease of understanding. It should be noted that the example scenario is for illustration purpose only, which should not be construed as limitations to the solution of the present disclosure.

[0123] FIG. 7 is a flowchart of signal processing steps with a radar sensor for child safety in a danger zone.

[0124] As shown in FIG. 7, assuming the target object is a child, at least one radar sensor may transmit a sensing signal and receive an echo signal, and the number of the at least one radar sensor is N, which is a positive integer. The N radar sensors may include a master node, and the others may be anchor node (s) . The data processing device may perform signal processing on the raw received signal, and then may perform presence detection based on the processed signal. The received signal by the radar may include the information about the environment which includes the static and the moving objects. The presence detection is used to detect at least one moving object in the environment. The moving characteristic of the at least one moving object may include range-time characteristic in a time domain or range-doppler characteristic in a frequency domain of the at least one moving object. If it is detected that there is at least one moving object, the device may perform feature extraction on the moving characteristic, or may input the moving characteristic to a pre-trained model to perform deep learning to realize target classification. When determining that there is a moving object (the child shown in FIG. 7) , ToA calculation may be performed at all N radars, and the ToA information may be transferred to a master node from each anchor node. With multiple radars, a 2D / 3D location of the target object may be determined and based on the location in space, the master node may decide whether the target is in safe zone or in danger zone.

[0125] According to the data processing method according to one or more embodiments of the present disclosure, a classified target can be detected in an area, and for a classified target, privacy can be protected while performing danger detection. Features identified for target classification may give accurate results as compared to using radar  raw data for target classification. In addition, the method of the present disclosure can be used in multiple scenarios including 2D / 3D environments and for different target classification such as pet / human, adult / child and curtain / human depending on the application scenario. What’s more, in this way, the safety assessment is not affected by environmental conditions such as fog / lighting.

[0126] The data processing method according to one or more embodiments of the present disclosure can be applied in safety critical environments where certain classified targets need to be monitored within specific boundaries of an area. The boundaries of the area may be in 2D or in 3D space.

[0127] FIG. 8 shows a schematic structural diagram of a data processing apparatus according to one or more example embodiments of the present disclosure. The data processing apparatus may be applied to the data processing device described above, or installed in or applied to a chip in the data processing device or any other equipment, module, circuit or unit that can implement the steps of the data processing device in above method embodiments. As shown in FIG. 8, a data processing apparatus 800 may include:

[0128] an obtaining module 801, configured to obtain a classification result for a target object based on radar data from a radar sensor, where the radar data includes moving characteristic of at least one moving object detected by the radar sensor, and the at least one moving object includes the target object;

[0129] a processing module 802, configured to determine an alerting strategy for the target object based on the classification result and current location information of the target object derived based on the radar data from the radar sensor.

[0130] In a possible implementation, the moving characteristic of the at least one moving object includes range-time characteristic in a time domain or range-doppler characteristic in a frequency domain of the at least one moving object.

[0131] In a possible implementation, the processing module 802 is configured to:

[0132] derive range-time characteristic or range-doppler characteristic of the target object based on the moving characteristic of the at least one moving object;

[0133] obtain the classification result for the target object based on the range-time characteristic or range-doppler characteristic of the target object.

[0134] In a possible implementation, the processing module 802 is configured to:

[0135] input the time domain characteristic or frequency domain characteristic of the target object into a first pre-trained model to obtain the classification result, where the first pre-trained model is trained with range-time characteristic or range-doppler characteristic of objects which belong to different classifications.

[0136] In a possible implementation, the processing module 802 is configured to:

[0137] determine classification characteristic of the target object based on the range-time characteristic or range-doppler characteristic of the target object, where the classification characteristic includes at least one of a radar cross section (RCS) or a breathing rate of the target object;

[0138] obtain the classification result based on the classification characteristic of the target object.

[0139] In a possible implementation, the processing module 802 is configured to:

[0140] determine whether the target object is within a preset area based on the current location information of the target object;

[0141] upon determining that the target object is within the preset area, determine, based on the classification result, whether a safety requirement corresponding to the preset area for the target object is met;

[0142] upon determining that the safety requirement is met, trigger an alerting prompt.

[0143] In a possible implementation, the processing module 802 is configured to:

[0144] determine the current location information of the target object based on the radar data from the radar sensor and radar data of the target object from at least one further radar sensor.

[0145] In a possible implementation, the radar data from the radar sensor includes first Time of Arrival (ToA) information of the target object, and the radar data of the target object from the at least one further radar sensor includes second ToA information of the target object;

[0146] where the obtaining module 801 is configured to obtain the second Time of Arrival (ToA) information of the target object from the at least one further radar sensor;

[0147] where the processing module 802 is configured to determine the current location information of the target object based on the first ToA information, the second ToA information and location information of the at least one further radar sensor.

[0148] In a possible implementation, the obtaining module 801 is configured to:

[0149] obtain prediction location information of the target object based on history location information of the target object;

[0150] where the processing module 802 is configured to:

[0151] determine the current location information of the target object based on the first ToA information, the second ToA information, the location information of the at least one further radar sensor and the predicted location information of the target object.

[0152] In a possible implementation, the processing module 802 is configured to:

[0153] determine, based on the history location information of the target object and the current location information of the target object, a movement pattern of the target object, where the movement pattern includes a moving speed and a moving direction of the target object;

[0154] determine whether the target object is within the preset area based on the movement pattern of the target object and a range of the preset area.

[0155] In a possible implementation, the processing module 802 is configured to:

[0156] input the current location information of the target object and a range of the preset area into a second pre-trained model to obtain a result of the determination of whether the target object is within the preset area, where the second pre-trained model is trained with predefined safe and danger events related to the preset area.

[0157] In a possible implementation, the classification result includes a classification to which the target object belongs.

[0158] In a possible implementation, the classification result further includes a confidence level corresponding to the classification.

[0159] The above-mentioned units or modules may be implemented using hardware, one or more components or devices that execute software, or a combination thereof. For instance, one or more of the units or modules may be an integrated circuit, such as a programmed FPGA, a GPU, or an ASIC. It will be appreciated that where the modules are implemented using software for execution by a processor for example, they may be retrieved by a processor, in whole or part as needed, individually or together for processing, in single or multiple instances, and that the modules themselves may include instructions for further deployment and instantiation.

[0160] It should be understood by a person skilled in the art that, the relevant description of the above modules in the embodiments of the present disclosure may be understood with reference to the relevant description of the data processing method in the embodiments of the present disclosure.

[0161] An embodiment of the present disclosure provides a data processing device including processing circuitry for executing any of the above data processing methods performed by the data processing apparatus. It should be understood that the data processing apparatus can execute the steps performed by the central device in the above method embodiments, which will not be repeated here.

[0162] An embodiment of the present disclosure provides a communication system which includes the data processing apparatus or the data processing device described above.

[0163] As shown in FIG. 9, a data processing device 900 may include a memory 901 and a processor 902, where a computer program is stored in the memory 901, and configured to be executed by the processor 902 to implement  the corresponding steps described in the method embodiments. The relevant description of the steps may be understood with reference to the relevant description of the data processing method in the embodiments of the present disclosure. In addition, the data processing device 900 may further include a communication interface 903 for communicating with other devices. The computer program (also known as programs, software, software applications, or codes) include machine instructions for a programmable processor, and may be implemented using high-level procedural and subtended programming languages, or assembly / machine languages.

[0164] An embodiment of the present disclosure provides a communication system, including the first processing circuitry. The first processing circuitry is configured to execute the steps executed by the data processing apparatus in any of the above data processing methods.

[0165] An embodiment of the present disclosure provides a computer-readable medium storing computer execution instructions which, when executed by a processor, causes the processor to execute any of the above data processing methods.

[0166] An embodiment of the present disclosure provides a computer program product including computer execution instructions which, when executed by a processor, causes the processor to execute any of the above data processing methods.

[0167] In the above embodiments, it can be implemented in whole or in part by software, hardware, firmware or any combination thereof. When implemented by software, it can be implemented in whole or in part in the form of a computer program product. The computer program product includes one or more computer instructions. When the computer instruction is loaded and executed on a computer, the processes or functions according to the embodiments of the present disclosure are entirely or partially generated. The computer can be a general-purpose computer, a special-purpose computer, a computer network, or other programmable devices. The computer instruction can be stored in a computer-readable storage medium or is transmitted from one computer-readable storage medium to another computer-readable storage medium, for example, the computer instruction is transmitted from one website, computer, server or data center to another website, computer, server or data center in a wired (for example, a coaxial cable, an optical fiber, a digital subscriber line (DSL) ) or wireless (for example, infrared, microwave, and the like) manner. The computer-readable storage medium can be any available medium that can be accessed by the computer or a data storage device such as a server and a data center, which includes one or more available medium for integration. The available medium can be a magnetic medium (such as a floppy disk, a hard disk and a magnetic tape) , an optical medium (such as a DVD) , or a semiconductor medium (such as a solid state hard disk) .

[0168] Although embodiments of the present disclosure describes methods and processes with steps in a certain order, one or more steps of the methods and processes may be omitted or altered as appropriate. One or more steps may take place in an order other than that in which they are described, as appropriate.

[0169] The present disclosure encompasses various embodiments, including not only method embodiments, but also other embodiments such as apparatus embodiments and embodiments related to non-transitory computer readable storage media. Embodiments may incorporate, individually or in combinations, the features disclosed herein.

[0170] Although this disclosure refers to illustrative embodiments, this is not intended to be construed in a limiting sense. Various modifications and combinations of the illustrative embodiments, as well as other embodiments of the disclosure, will be apparent to persons skilled in the art upon reference to the description.

[0171] Features disclosed herein in the context of any particular embodiments may also or instead be implemented in other embodiments. Method embodiments, for example, may also or instead be implemented in apparatus, system, and / or computer program product embodiments. In addition, although embodiments are described primarily in the context of methods and apparatus, other implementations are also contemplated, as instructions stored on one or more non-transitory computer-readable media, for example. Such media could store programming or instructions to perform any of various methods consistent with the present disclosure.

Claims

1.A data processing method, comprising:obtaining a classification result for a target object based on radar data from a radar sensor, wherein the radar data comprises moving characteristic of at least one moving object detected by the radar sensor, and the at least one moving object comprises the target object;determining an alerting strategy for the target object based on the classification result and current location information of the target object derived based on the radar data from the radar sensor.2.The method according to claim 1, wherein the moving characteristic of the at least one moving object comprises range-time characteristic in a time domain or range-doppler characteristic in a frequency domain of the at least one moving object.3.The method according to claim 2, wherein the obtaining a classification result for a target object based on radar data from a radar sensor comprises:deriving range-time characteristic or range-doppler characteristic of the target object based on the moving characteristic of the at least one moving object;obtaining the classification result for the target object based on the range-time characteristic or range-doppler characteristic of the target object.4.The method according to claim 3, wherein the obtaining the classification result based on the range-time characteristic or range-doppler characteristic of the target object comprises:inputting the time domain characteristic or frequency domain characteristic of the target object into a first pre-trained model to obtain the classification result, wherein the first pre-trained model is trained with range-time characteristic or range-doppler characteristic of objects which belong to different classifications.5.The method according to claim 3, wherein the obtaining the classification result based on the range-time characteristic or range-doppler characteristic of the target object comprises:determining classification characteristic of the target object based on the range-time characteristic or range-doppler characteristic of the target object, wherein the classification characteristic comprises at least one of a radar cross section (RCS) or a breathing rate of the target object;obtaining the classification result based on the classification characteristic of the target object.6.The method according to any one of claims 1 to 5, wherein determining an alerting strategy for the target  object based on the classification result and current location information of the target object comprises:determining whether the target object is within a preset area based on the current location information of the target object;upon determining that the target object is within the preset area, determining, based on the classification result, whether a safety requirement corresponding to the preset area for the target object is met;upon determining that the safety requirement is met, triggering an alerting prompt.7.The method according to claim 6, further comprising:determining the current location information of the target object based on the radar data from the radar sensor and radar data of the target object from at least one further radar sensor.8.The method according to claim 7, wherein the radar data from the radar sensor comprises first Time of Arrival (ToA) information of the target object, and the radar data of the target object from the at least one further radar sensor comprises second ToA information of the target object;wherein determining the current location information of the target object comprises:obtaining the second Time of Arrival (ToA) information of the target object from the at least one further radar sensor;determining the current location information of the target object based on the first ToA information, the second ToA information and location information of the at least one further radar sensor.9.The method according to claim 8, further comprising:obtaining prediction location information of the target object based on history location information of the target object;wherein determining the current location information of the target object based on the first ToA information, the second ToA information and location information of the at least one further radar sensor comprises:determining the current location information of the target object based on the first ToA information, the second ToA information, the location information of the at least one further radar sensor and the predicted location information of the target object.10.The method according to claim 9, wherein the determining whether the target object is within a preset area based on the current location information of the target object comprises:determining, based on the history location information of the target object and the current location information of the target object, a movement pattern of the target object, wherein the movement pattern comprises a moving speed and a moving direction of the target object;determining whether the target object is within the preset area based on the movement pattern of the target object and a range of the preset area.11.The method according to any one of claims 6 to 9, wherein the determining whether the target object is within a preset area based on the current location information of the target object comprises:inputting the current location information of the target object and a range of the preset area into a second pre-trained model to obtain a result of the determination of whether the target object is within the preset area, wherein the second pre-trained model is trained with predefined safe and danger events related to the preset area.12.The method according to any one of claims 1 to 11, wherein the classification result comprises a classification to which the target object belongs.13.The method according to claim 12, wherein the classification result further comprises a confidence level corresponding to the classification.14.A data processing apparatus, comprising:an obtaining module, configured to obtain a classification result for a target object based on radar data from a radar sensor, wherein the radar data comprises moving characteristic of at least one moving object detected by the radar sensor, and the at least one moving object comprises the target object;a processing module, configured to determine an alerting strategy for the target object based on the classification result and current location information of the target object derived based on the radar data from the radar sensor.15.The apparatus according to claim 14, wherein the moving characteristic of the at least one moving object comprises range-time characteristic in a time domain or range-doppler characteristic in a frequency domain of the at least one moving object.16.The apparatus according to claim 15, wherein the processing module is configured to:derive range-time characteristic or range-doppler characteristic of the target object based on the moving characteristic of the at least one moving object;obtain the classification result for the target object based on the range-time characteristic or range-doppler characteristic of the target object.17.The apparatus according to claim 16, wherein the processing module is configured to:input the time domain characteristic or frequency domain characteristic of the target object into a first pre-trained model to obtain the classification result, wherein the first pre-trained model is trained with range-time characteristic or range-doppler characteristic of objects which belong to different classifications.18.The apparatus according to claim 16, wherein the processing module is configured to:determine classification characteristic of the target object based on the range-time characteristic or range-doppler characteristic of the target object, wherein the classification characteristic comprises at least one of a radar cross section (RCS) or a breathing rate of the target object;obtain the classification result based on the classification characteristic of the target object.19.The apparatus according to any one of claims 14 to 18, wherein the processing module is configured to:determine whether the target object is within a preset area based on the current location information of the target object;upon determining that the target object is within the preset area, determine, based on the classification result, whether a safety requirement corresponding to the preset area for the target object is met;upon determining that the safety requirement is met, trigger an alerting prompt.20.The apparatus according to claim 19, the processing module is configured to:determine the current location information of the target object based on the radar data from the radar sensor and radar data of the target object from at least one further radar sensor.21.The apparatus according to claim 20, wherein the radar data from the radar sensor comprises first Time of Arrival (ToA) information of the target object, and the radar data of the target object from the at least one further radar sensor comprises second ToA information of the target object;wherein the obtaining module is configured to obtain the second Time of Arrival (ToA) information of the target object from the at least one further radar sensor;wherein the processing module is configured to determine the current location information of the target object based on the first ToA information, the second ToA information and location information of the at least one further radar sensor.22.The apparatus according to claim 21, wherein the obtaining module is configured to:obtain prediction location information of the target object based on history location information of the target object;wherein the processing module is configured to:determine the current location information of the target object based on the first ToA information, the second ToA information, the location information of the at least one further radar sensor and the predicted location information of the target object.23.The apparatus according to claim 22, wherein the processing module is configured to:determine, based on the history location information of the target object and the current location information of the target object, a movement pattern of the target object, wherein the movement pattern comprises a moving speed and a moving direction of the target object;determine whether the target object is within the preset area based on the movement pattern of the target object and a range of the preset area.24.The apparatus according to any one of claims 19 to 22, wherein the processing module is configured to:input the current location information of the target object and a range of the preset area into a second pre-trained model to obtain a result of the determination of whether the target object is within the preset area, wherein the second pre-trained model is trained with predefined safe and danger events related to the preset area.25.The apparatus according to any one of claims 14 to 24, wherein the classification result comprises a classification to which the target object belongs.26.The apparatus according to claim 25, wherein the classification result further comprises a confidence level corresponding to the classification.27.A data processing device, comprising processing circuitry for executing the method according to any one of claims 1 to 13.28.A computer-readable storage medium, wherein the computer-readable storage medium stores therein computer execution instructions, and when a processor executes the computer executed instructions, the method according to any one of claims 1 to 13 is implemented.

Citation Information

Patent Citations

  • Procedure and system for classifying road users

    DE102018203591B3

  • System and method for controlling operation of a vehicle using a millimeter-wave radar sensor

    US20190101634A1

  • Method and apparatus for object detection using convolutional neural network systems

    US20190204834A1

  • Object classification using low-level radar data

    US20210293927A1

  • Object detection-based notification

    US20230090211A1