System, method, electronic device, and medium for identifying sparse attacks

Abstract

Embodiments of the present invention disclose a system, method, electronic device, and medium for identifying sparse attacks. The system comprises: an interval observer, configured to generate a state estimation of a controlled object based on a control input of the controlled object and a measurement output provided by a sensor of the controlled object; and a first determining module, configured to judge whether the state estimation is within a predetermined range, determine the sensor is not under sparse attacks when it is judged that the state estimation is within the predetermined range or determine the sensor is under sparse attacks when it is judged that the state estimation is not within the predetermined range. Interval observer identifies sparse attacks and improve product quality and robustness against network attacks. In addition, it can save energy and improve the reliability of controlled object by determining non-high gain estimation for controlled object through unscented Kalman filter.

Description

System, method, electronic device, and medium for identifying sparse attacksFIELD

[0001] The present invention relates to the technical field of network security, in particular to a system, method, electronic device, and medium for identifying sparse attacks.BACKGROUND

[0002] Cyber security is vital for safety critical systems, such as computation and control systems of airplanes, cars, trains, and medical apparatuses. Cases of cyber-attacks have led to physical hazards and economic consequences. Thus, it is important to design algorithms considering the security of cyber-physical systems. Among various types of cyber-attacks, sparse injection attacks are particularly challenging to deal with. From a physical perspective, sparse attacks are a general class of unknown attacks that can be modelled as a sparse vector and that are maliciously injected to system measurements.

[0003] For sparse attacks, the main challenge of secure state estimation mainly lies in the identification of such attacks. Although many approaches are proposed to give a secure state estimation for linear time variant (LTI) systems, it is difficult to generalize these methods to linear parameters varying (LPV) or nonlinear systems, such as soft-robotics, positioners under thermal loads, varying configuration cars and large-scale networks. Meanwhile, practical systems are subject to disturbances, and the disturbances may pollute the residue signals used to identify attacks, making it hard to preclude attacked sensors.SUMMARY

[0004] Embodiments of the present invention propose a system, method, electronic device, and medium for identifying sparse attacks.

[0005] In a first aspect, a system for identifying sparse attacks is provided. The system comprising:

[0006] an interval observer, configured to generate a state estimation of a controlled object based on a control input of the controlled object and a measurement output provided by a sensor of the controlled object; and

[0007] a first determining module, configured to judge whether the state estimation is within a predetermined range, determine the sensor is not under sparse attacks when it is judged that the state estimation is within the predetermined range or determine the sensor is under sparse attacks when it is judged that the state estimation is not within the predetermined range.

[0008] Therefore, interval observer generates a state estimation used to identify sparse attacks and improves product  quality and robustness against network attacks.

[0009] Preferably, comprising a sampling module;

[0010] wherein the first determining module, configured to output the measurement output when it is determined that the sensor is not under sparse attacks or send the measurement output to the sampling module when it is determined that the sensor is under sparse attacks;

[0011] the sampling module, configured to perform sampling processing on the measurement output based on a predetermined sampling period.

[0012] Therefore, the output can be improved through sampling processing.

[0013] Preferably, wherein the sampling module is configured to reduce the sampling period in a next round of sampling processing when a noise level of the measurement output is greater than a first threshold, increase the sampling period in the next round of sampling processing when the noise level of the measurement output is less than a second threshold, maintain the sampling period in the next round of sampling processing when the noise level of the measurement output is within an interval range defined by the first threshold and the second threshold, wherein the first threshold is greater than the second threshold.

[0014] Therefore, the sampling period can be adjusted adaptively based on noise level to improve the quality of the output signal.

[0015] Preferably, comprising:

[0016] an unscented Kalman filter, configured to determine an estimation of the measurement output based on the control input and a sampled measurement output;

[0017] a filtering module, configured to filter the estimation of the measurement output;

[0018] wherein the first determining module, configured to output a filtered estimation of the measurement output when it is determined that the sensor is under sparse attacks.

[0019] Therefore, it can save energy and improve the reliability of the system by determining estimation of non-high gain for safety critical system control through unscented Kalman filter. In addition, first determining module switches the feed output for controllers between sensor measurement and output estimation of unscented Kalman filter.

[0020] Preferably, comprising:

[0021] a disturbance estimator, configured to determine a disturbance estimation of the controlled object based on the control input and the sampled measurement output.

[0022] Preferably, comprising:

[0023] a disturbance evaluator, configured to generate an evaluation value for the disturbance estimation, and adjust  covariance matrix parameters of the unscented Kalman filter based on the evaluation value.

[0024] Therefore, disturbance estimator and disturbance evaluator are designed to monitor the existed disturbance to tune the Kalman filter adaptively.

[0025] Preferably, comprising:

[0026] a second determining module, configured to determine estimation parameters of the interval observer based on an offline control input of the controlled object and an offline measurement output provided by the sensor of the controlled object during an offline process.

[0027] Therefore, estimation parameters of the interval observer can be adjusted through an offline process to facilitate the identification of the controlled object.

[0028] In a second aspect, a method for identifying sparse attacks is provided. The method comprising:

[0029] enabling an interval observer to generate a state estimation of a controlled object based on a control input of the controlled object and a measurement output provided by a sensor of the controlled object;

[0030] judging whether the state estimation is within a predetermined range; and

[0031] determining the sensor is not under sparse attacks when it is judged that the state estimation is within the predetermined range or determining the sensor is under sparse attacks when it is judged that the state estimation is not within the predetermined range.

[0032] Therefore, interval observer generates a state estimation used to identify sparse attacks and improves product quality and robustness against network attacks.

[0033] Preferably, comprising:

[0034] outputting the measurement output when it is determined that the sensor is not under sparse attacks or sending the measurement output to a sampling module when it is determined that the sensor is under sparse attacks;

[0035] enabling the sampling module to perform sampling processing on the measurement output based on a predetermined sampling period.

[0036] Therefore, the output can be improved through sampling processing.

[0037] Preferably, comprising:

[0038] enabling the sampling module to reduce the sampling period in a next round of sampling processing when a noise level of the measurement output is greater than a first threshold, increase the sampling period in the next round of sampling processing when the noise level of the measurement output is less than a second threshold, maintain the sampling period in the next round of sampling processing when the noise level of the measurement output is within an interval range defined by the first threshold and the second threshold, wherein the first  threshold is greater than the second threshold.

[0039] Therefore, the sampling period can be adjusted adaptively based on noise level to improve the quality of the output signal.

[0040] Preferably, comprising:

[0041] enabling an unscented Kalman filter to determine an estimation of the measurement output based on the control input and a sampled measurement output;

[0042] filtering the estimation of the measurement output;

[0043] outputting a filtered estimation of the measurement output when it is determined that the sensor (11) is under sparse attacks.

[0044] Therefore, it can save energy and improve the reliability of the system by determining estimation of non-high gain for safety critical system control through unscented Kalman filter. In addition, first determining module switches the feed output for controllers between sensor measurement and output estimation of unscented Kalman filter.

[0045] Preferably, comprising:

[0046] determining a disturbance estimation of the controlled object based on the control input and the sampled measurement output.

[0047] Preferably, comprising:

[0048] generating an evaluation value for the disturbance estimation;

[0049] adjusting covariance matrix parameters of the unscented Kalman filter based on the evaluation value.

[0050] Therefore, disturbance estimator and disturbance evaluator are designed to monitor the existed disturbance to tune the Kalman filter adaptively.

[0051] Preferably, comprising:

[0052] determining estimation parameters of the interval observer based on an offline control input of the controlled object and an offline measurement output provided by the sensor of the controlled object during an offline process.

[0053] Therefore, estimation parameters of the interval observer can be adjusted through an offline process to facilitate the identification of the controlled object.

[0054] In a third aspect, an electronic device is provided. The electronic device comprising a processor and a memory, wherein an application program executable by the processor is stored in the memory for causing the processor to execute a method for identifying sparse attacks as described in any of the above.

[0055] In a fourth aspect, a computer-readable medium comprising computer-readable instructions stored thereon is  provided, wherein the computer-readable instructions, when executed by a processor, implement a method for identifying sparse attacks as described in any of the above.

[0056] In a fifth aspect, a computer program product comprising a computer program is provided, upon the computer program is executed by a processor for executing a method for identifying sparse attacks as described in any of the above.BRIEF DESCRIPTION OF THE DRAWINGS

[0057] In order to make technical solutions of examples of the present disclosure clearer, accompanying drawings to be used in description of the examples will be simply introduced hereinafter. Obviously, the accompanying drawings to be described hereinafter are only some examples of the present disclosure. Those skilled in the art may obtain other drawings according to these accompanying drawings without creative labor.

[0058] FIG. 1 is a structural diagram of a system for identifying sparse attacks s according to an embodiment of the present invention.

[0059] FIG. 2 is an exemplary structural diagram of a system for identifying sparse attacks according to an embodiment of the present invention.

[0060] FIG. 3 is an exemplary schematic diagram of a system identification process of an interval observer according to an embodiment of the present invention.

[0061] FIG. 4 is an exemplary schematic diagram of a sampling period adaptive process according to an embodiment of the present invention.

[0062] FIG. 5 is an exemplary schematic diagram of a method for identifying sparse attacks according to an embodiment of the present invention.

[0063] FIG. 6 is an exemplary structural diagram of 2-Degree of Freedom (DOF) robot arms according to an embodiment of the present invention.

[0064] FIG. 7 is an exemplary flow chart of identification method of sparse attacks of a 2-DOF mechanical arm system according to the embodiment of the present invention.

[0065] FIG. 8A is a tracking performance diagram when an attack occurs without implementing an embodiment of the invention.

[0066] FIG. 8B is a tracking performance diagram when an attack occurs in the case of implementing an embodiment of the invention.

[0067] FIG. 9A is an exemplary schematic diagram of a model of vehicle longitudinal direction.

[0068] FIG. 9B is a schematic diagram of vehicle location.

[0069] FIG. 10 is a structural diagram of an electronic device according to an embodiment of the present invention.

[0070] List of reference numbers: DETAILED DESCRIPTION

[0071] In order to make the purpose, technical scheme and advantages of the invention clearer, the following examples are given to further explain the invention in detail.

[0072] In order to be concise and intuitive in description, the scheme of the invention is described below by describing several representative embodiments. Many details in the embodiments are only used to help understand the scheme of the invention. However, it is obvious that the technical scheme of the invention can be realized without being limited to these details. In order to avoid unnecessarily blurring the scheme of the invention, some embodiments are not described in detail, but only the framework is given. Hereinafter, "including" refers to "including but not limited to" , "according to... " refers to "at least according to..., but not limited to... " . Due to the language habits of Chinese, when the number of an element is not specifically indicated below, it means that the element can be one or more, or can be understood as at least one.

[0073] Embodiments of the present invention proposes a security state estimation (SSE) scheme for sparse injection attacks and interference of security critical systems. The problem of security state estimation of security critical systems under sparse attacks on sensors is to estimate the system state from contaminated measurements.

[0074] For the cyber-attacks to information channel and sensors, the usual method is to use safe redundant architecture in products. For example, safe redundant encoder is applied to safety critical servo systems. However, the cost of redundant solutions is too high, which is only used for large systems such as airplane. To solve this problem, software based safe state estimation and system reconfiguration is developed in the past decades. Although observer-based methods have been proposed to identify attacks and introduce compensation mechanisms, high gain is usually required to deal with system uncertainties, which will consume energy and pose challenges to system reliability verification.

[0075] According to embodiments of the present invention, a security state estimation method based on network attack identification and security switching mechanism of security critical systems is proposed. Among them, interval observers are used to identify network attacks; Unscented Kalman Filter (UKF) is used to provide the best estimation for the signal of interest. The embodiment of the invention also provides a switching mechanism using estimation results and abnormal state prediction, wherein the output of a sensing system (such as a sensor) will be determined by the switching mechanism. The dynamic model parameters of the observer and filter are adjustable. The implementation mode of the invention can improve product quality and robustness against network attacks. Moreover, embodiments of the invention are not only applicable to a single device, but also to a wide range of network physical systems (CPS) , such as Industrial Internet of Things (IIoT) and network control systems.

[0076] The above disclosure details the technical defects in the prior art, the causes of the technical defects, and the thinking and analysis process to overcome the technical defects. In fact, the cognition of the above technical  defects is not a general knowledge in the field, but a novel discovery of the applicant in the research.

[0077] FIG. 1 is a structural diagram of a system for identifying sparse attacks s according to an embodiment of the present invention. As shown in Figure 1, the system includes:

[0078] an interval observer 12, configured to generate a state estimation of a controlled object 10 based on a control input of the controlled object 10 and a measurement output provided by a sensor 11 of the controlled object 10; and a first determining module 13, configured to judge whether the state estimation is within a predetermined range, determine the sensor 11 is not under sparse attacks when it is judged that the state estimation is within the predetermined range or determine the sensor 11 is under sparse attacks when it is judged that the state estimation is not within the predetermined range. The range can be manually specified by the user. Moreover, the range is preferably adjustable.

[0079] The controlled object 10 can be implemented as a safety critical system. For example, safety critical systems can include control systems for vehicles (such as aircraft, cars, trains and ships) and medical devices. The safety critical system can be specifically implemented as a CNC servo system. Numerical control servo system is an automatic control system with mechanical displacement as the direct control target, which can also be called position servo system, or servo system for short. For example, the CNC machine tool servo system mainly includes: (1) feed servo system, which controls the cutting feed movement of each coordinate axis of the machine tool, mainly linear movement; (2) Spindle servo system, which controls the cutting movement of the spindle and mainly revolves. Multi axis CNC machine tool machining system is an important equipment for manufacturing complex workpiece, and the trajectory planning and servo control of multi axis or multi degree of freedom servo system in this system are the key factors affecting the machining accuracy of workpiece.

[0080] The servo system is driven by the control signal to perform the positioning task. The servo system can include: (1) feed servo system, which controls the cutting feed motion of each coordinate axis of the machine tool, mainly linear motion; (2) Spindle servo system, which controls the cutting movement of the spindle and mainly revolves. Specifically, the servo system 14 can be implemented as a servo system for rotating motors, a planar motion servo system (such as a fast knife servo platform) , a multi degree of freedom parallel robot, a multi degree of freedom positioning / scanning instrument, and the like.

[0081] The control input 20 is a control variable provided to the controlled object 10. For example, control variables can include: current signal, voltage signal, power signal, impedance signal, frequency signal, temperature signal, pressure signal, torque signal, speed signal, optical signal, etc. For example, control variable can be implemented as voltage signal or current signal input to a motor, or torque signal input to a robot arm, and so on.

[0082] The controlled object 10 starts to actuate after receiving the control input 20. The sensor 11 measures the  output of the controlled object 10 in the process of actuation, that is, the measurement output 21 of the controlled object 10 (can be called system output) . For example, the measurement output 21 can be implemented as position, speed, acceleration, temperature, pressure, and other parameters. The sensor 11 can be implemented as an independent sensor separate from the controlled object 10, or as a built-in sensor built into the controlled object 10. Sensor 11 may be subject to sparse attack 21, which will cause sparse attack 21 to be injected into the measurement output of sensor 11 output.

[0083] For example, the sensor 11 may be implemented as an active sensor or a passive sensor. The passive sensor only receives signals generated by the measured object 10 itself, such as infrared radiation thermometer, infrared camera, load sensor, pressure sensor, speed sensor, acceleration sensor, torque sensor, temperature sensor and humidity sensor, etc. Active sensor means that sensor 11 absorbs energy (light energy and heat energy) and then outputs electric energy after its own transformation. For example, the electric energy output by solar cells and thermocouples comes from the light energy and heat energy absorbed by active sensors respectively. The active sensor does not need external power supply. It is an energy converter. For example, sensors made of piezoelectric effect, magneto strictive effect, thermoelectric effect, photoelectric effect, etc. are active sensors.

[0084] The above exemplary description describes typical examples of controlled objects, control inputs, sensors and measurement outputs. Those skilled in the art can realize that this description is only exemplary and is not used to limit the protection scope of the implementation mode of the invention.

[0085] Interval observer 12 is dynamic system that provide upper and lower bounds of the true state trajectories of measured object 10. Interval observer 12 can be applied to both continuous and discrete time systems. By establishing a group of dynamic systems, interval observer 12 realizes the estimation of the upper and lower bounds of the state respectively, breaks through the structural characteristics of the traditional observer, and effectively solves the problem of state reconstruction of uncertain systems. In addition to structural breakthroughs, the design process of interval observers introduces some information of uncertainty, which makes the observers highly tolerant to disturbances and the design method simple.

[0086] Interval observer 12 is used to generate state estimation of controlled object 10 based on control input 20 of controlled object 10 and measurement output provided by the sensor 11 of the controlled object 10. The first determining module 12 is used to determine whether the state estimation is in a predetermined range; If yes, it is determined that sensor 11 is not subject to sparse attack 21; otherwise, it is determined that sensor 11 is subject to sparse attack 21. The interval observer 12 is configured with estimation parameters for generating state estimation of controlled object 10. State estimation refers to the prediction and estimation of the state of controlled object 10 through the measurement of controlled object 10 (measurement output 21) and the model of controlled object 10  in the absence of complete information.

[0087] In an offline process that sensor 11 will not be subject to sparse attack 21, estimation parameters of interval observer 12 are determined and configured into interval observer 12. Then, in an online process where sensor 11 may be subject to sparse attack 21, the configured interval observer 12 is used to generate state estimation of the controlled object 10 in the online process.

[0088] In one embodiment, the system includes a second determining module, configured to determine estimation parameters of the interval observer 12 based on an offline control input of the controlled object 10 and an offline measurement output provided by the sensor 11 of the controlled object 10 during an offline process.

[0089] Specifically, the process of determining the estimation parameters of interval observer 12 in the offline process includes: Step 1: determining mechanism model of controlled object 10. Step 2: generating a group of excitation signals, in which the amplitude range and frequency band range of the excitation signals are determined based on the mechanism model of controlled object 10. Step 3: inputting the excitation signal into the mechanism model of interval observer 12 under different working conditions, for frequency identification experiment. Step 4: determining linear parameter variation (LPV) model parameters of controlled object 10 through fitting curves of frequency identification experiment results under different working conditions. Step 5: determining estimation parameters of interval observer 12 (usually system matrix) based on LPV model parameters of controlled object 10.

[0090] After estimation parameters of interval observer 12 are determined by the offline process, the state estimation of controlled object 10 can be generated by interval observer 12 with determined estimation parameters during the online process when the sensor 11 may be subject to sparse attack 21. Then, the first determining module 12 compares the state estimation with a predetermined range. When the state estimation is in the range, it is determined that sensor 11 is not subject to sparse attacks, otherwise, it is determined that sensor 11 is subject to sparse attacks.

[0091] When first determining module 12 determines that sensor 11 is not subject to sparse attack, the measurement output 21 can be directly used as system measurement output.

[0092] When first determining module 12 determines that the sensor 11 is under sparse attack, the measurement output 21 cannot be used as system measurement output. At this time, the measurement output 21 needs to be compensated accordingly. In one embodiment, the first determining module 13 is used to send the measurement output to a sampling module when it is determined that the sensor 11 is under sparse attacks. The sampling module for performing sampling processing on the measurement output based on a predetermined sampling period. In one embodiment, the sampling module is used to reduce the sampling period in the next round of  sampling processing when the noise level of the measurement output is greater than the first threshold; When the noise level of the measurement output is less than the second threshold, the sampling period is increased in the next round of sampling processing; When the noise level of the measurement output is within the interval range defined by the first threshold and the second threshold, the sampling period is maintained in the next round of sampling processing, where the first threshold is greater than the second threshold.

[0093] FIG. 4 is an exemplary schematic diagram of a sampling period adaptive process according to an embodiment of the present invention. As shown in Figure 4, the sampling period adaptive process includes:

[0094] Step 201: performing sampling processing on measurement output based on a predetermined sampling period.

[0095] Step 202: compare noise level of the measurement output with a first threshold and a second threshold. The comparison result has three options, namely, option C1 when the noise level of the measurement output is greater than the first threshold, option C2 when the noise level of the measurement output is less than the second threshold, and option C3 when the noise level is within an interval range defined by the first threshold and the second threshold. When option C1 is selected, execute step 203 and exit this process. When option C2 is selected, perform step 204 and exit this process. When option C3 is selected, execute step 205 and exit this process.

[0096] Step 203: reduce the sampling period in the next round of sampling processing.

[0097] Step 204: Increase the sampling period in the next round of sampling processing.

[0098] Step 205: maintain the sampling period in the next round of sampling processing.

[0099] In one embodiment, the system includes an unscented Kalman filter configured to determine an estimation of the measurement output based on the control input and a sampled measurement output; a filtering module configured to filter the estimation of the measurement output; wherein the first determining module is configured to output a filtered estimation of the measurement output when it is determined that the sensor is under sparse attacks. The unscented Kalman filter can be regarded as a state estimator, which uses sensor fusion and information fusion to improve the accuracy of the system. The unscented Kalman filter does not use Taylor expansion to linearize the nonlinear system, but uses unscented transformation to deal with the nonlinear transfer of mean and covariance. The UKF algorithm approximates the probability density distribution of the nonlinear function, using a series of determined samples to approximate the posterior probability density of the state, rather than approximating the nonlinear function, and does not need to derive the Jacobian matrix.

[0100] In one embodiment, the system includes a disturbance estimator configured to determine a disturbance estimation of the controlled object based on the control input and the sampled measurement output. In one embodiment, the system includes a disturbance evaluator configured to generate an evaluation value for the  disturbance estimation, and adjust covariance matrix parameters of the unscented Kalman filter based on the evaluation value. Therefore, disturbance estimator and disturbance evaluator are designed to monitor the existed disturbance to tune the Kalman filter adaptively.

[0101] FIG. 2 is an exemplary structural diagram of a system for identifying sparse attacks according to an embodiment of the present invention.

[0102] The system shown in Figure 2 can not only identify sparse attacks, but also implement a switching mechanism based on estimation results and abnormal state prediction, where the output of the sensor system will be determined by the switching mechanism. The system shown in Figure 2 includes controlled object 10, sensor 11, first determining module13 and second determination module 19.

[0103] Sensor 11 will not be subject to sparse attacks during offline process. During the offline process, when controlled object 10 receives offline control input, the controlled object 10 starts to actuate. The sensor 11 measures output of the controlled object 10 in the actuation process, that is, offline measurement output of controlled object 10. Then, the second determination module 19 determines estimation parameters of interval observer 12 based on offline control input of the controlled object 10 and offline measurement output provided by sensor 11 of the controlled object 10. The interval observer 12 with the determined estimation parameters can predict state estimation of controlled object 10 based on control input of controlled object 10 and measurement output corresponding to the control input. When estimation parameters of the interval observer 12 are determined, the online process of the sensor 11 is executed. During the online process, sensor 11 may suffer from sparse attack 21. During the online process, the second determination module 19 may be removed from the system.

[0104] In the online process where sensor 11 may be subject to sparse attack 21: the interval observer 12 whose estimation parameters have been determined generates state estimation of controlled object 10 based on control input 20 of controlled object 10 and measurement output 21 provided by sensor 11 of controlled object 10.

[0105] In Figure 2, the first determining module 13 includes a determination unit 131 and a switching unit 132. Determination unit 131 for judging whether the state estimation generated by the interval observer 12 is within a predetermined range; If yes, it is determined that sensor 11 is not subject to sparse attack; otherwise, it is determined that sensor 11 is subject to sparse attack. When determination unit 131 determines that the sensor 11 is not subject to sparse attack, switching unit 132 directly outputs the measurement output 21 as system measurement output 22, that is, the measurement output 21 is used as the system measurement of the controlled object 10.

[0106] In one embodiment, the first determining module 13 is used to send the measurement output to sampling module 14 when it is determined that sensor 11 is under sparse attacks. A sampling module 14 for performing  sampling processing on the measurement output based on a predetermined sampling period. In one embodiment, the sampling module 14 is used to reduce the sampling period in the next round of sampling processing when noise level of the measurement output is greater than the first threshold. When the noise level of the measurement output is less than the second threshold, the sampling period is increased in the next round of sampling processing. When the noise level of the measurement output is within the interval range defined by the first threshold and the second threshold, the sampling period is maintained in the next round of sampling processing, where the first threshold is greater than the second threshold.

[0107] In one embodiment, the system includes: unscented Kalman filter 15 for determining estimation of measurement output based on control input 20 and the measurement output after sampling processing; filtering module 16 for filtering estimation of the measurement output. The first determining module 13 is used to output filtered estimation of measured output as system measurement, that is, the filtered estimation of measured output is used as system measurement output 22 of the controlled object 10. In one embodiment, disturbance estimator 17 is used to determine disturbance estimation of the controlled object 10 based on control input 20 and the sampled measurement output. In one embodiment, disturbance evaluator 18 is used to generate an evaluation value for the disturbance estimation, and adjust covariance matrix parameters of the unscented Kalman filter 15 based on the evaluation value.

[0108] Specifically, the system shown in Figure 2 includes the following components:

[0109] (1) controlled object 10: The physical system of interest, which can be safety critical systems, such as motion control systems of robotics, cars, and airplanes.

[0110] (2) Sensor 10: To measure and sense the physical states of the system, such as position, velocity and acceleration, etc.

[0111] (3) Sparse attacks 21: The sparse cyber-attacks for sensor 10.

[0112] (4) Interval observer 12: To estimate and monitor the cyber-attacks.

[0113] (5) first determining module 13: To switch the feed output for controllers between sensor measurement and output estimation of the unscented Kalman filter.

[0114] (6) sampling module: Lift the determined output with up-sampling or down-sampling with the consideration of Kalman filter output ripples.

[0115] (7) Modified Unscented Kalman Filter15: To estimate and predict the system output.

[0116] (8) Disturbance estimator 17: To estimate the disturbance existed in controlled object 10.

[0117] (9) Disturbance evaluator 18: To evaluate the estimated disturbance and the statistical disturbance assumed in the Kalman filter for filter adaption.

[0118] (10) Filtering module 16: To filter the Kalman filter output.

[0119] (11) second determining module 19: To identify the structures and parameters of controlled object 10 for interval observer design.

[0120] The working flow is described as: Firstly, controlled object 10 is actuated by control input, and the states of the controlled object 10 are measured by the placed sensors. Secondly, interval observer, which is parameterized by second determining module 19 estimates and monitors the attacks. When the cyber-attacks occur and identified, the enable / actuation signal is generated and send to first determining module 13. Then first determining module 13 selects a determined output between the output of sensor 10 and Kalman filter 15. Thirdly, the determined output after lifting and the control input are used in modified unscented Kalman filter to estimate the system output. In addition, the output needs to be processed by low-pass filters to deal with noises. Moreover, disturbance observer 17 and disturbance evaluator 18 are designed to monitor the existed disturbance to tune the Kalman filter15 adaptively. Finally, the output for closed loop control is determined by the switching mechanism.

[0121] Without generalization, for the plant in the patent, the system model is considered as:

[0122] System model:

[0123] Where x is the state of the system, u is the control input, d is the total disturbance, y is the system output, n is the output noise and p is the dependent parameter.

[0124] (A) : Interval observer design and switching mechanism

[0125] The interval observer is designed with a system identification process executed by the second determining module. For the identification, the detailed process is listed as:

[0126] Step 1: study mechanism and schematic of the controlled object. Step 2: generate a group of excitation signals for identification, where the amplitude and frequency band range are determined based on the analysis of Step 1. Step 3: perform frequency identification experiments in different working conditions. Step 4: identify the theoretical LPV model related parameters by fitting the experimental curves. Finally, determine the system matrices of interval observers.

[0127] Fig. 3 is an exemplary schematic diagram of a system identification process of an interval observer according to an embodiment of the present invention. As shown in Figure 3, the identification process specifically includes:

[0128] Step 101: Determine mechanism model of controlled object 10.

[0129] Step 102: generate a group of excitation signals, in which the amplitude range and frequency band range of the excitation signal are determined based on the mechanism model of the controlled object 10.

[0130] Step 103: under different operating conditions, input the excitation signal into the mechanism model of interval observer 12 for frequency identification experiment.

[0131] Step 104: Determine the linear parameter change (LPV) model parameters of controlled object 10 through the fitting curve of frequency identification experiment results under different working conditions.

[0132] Step 105: Determine estimation parameters (usually system matrix) of interval observer 12 based on the LPV model parameters of controlled object 10.

[0133] Interval observers design for the system is depicted as follows:

[0134] where x,  are the states of interval observers;  with known uncertaintiy ΔA; And Ψ is the observer gain which can be tuned. If the trajectories of measurable states x are beyond the limits of trajectories x or it will be considered that the attacks occur. Then the enable signal will be generated and trigger the switching mechanism.

[0135] (B) : Modified Unscented Kalman Filter design

[0136] Step 1: Lift the determined output with up-sampling or down-sampling by evaluating the estimated disturbances the output ripples.

[0137] Step 2: Reconsider the system (1) as:

[0138] Where Dk=discrete (Ed) , Vk=discrete (n) are discretization of system noise and measurement noise, respectively.

[0139] In addition, the initial state x0 is a random vector with known mean μ0=E [x0] and covariance P0=E [ (x0-μ0) (x0-μ0) T] . In the case of non-additive process and measurement noise, the unscented transformation scheme is applied to the augmented state:

[0140] Step 3: Construct Kalman filter for state observation and estimation.

[0141] 1) Prediction steps:

[0142] (1) Sigma points computation: Let xk-1 be a set of 2N + 1 sigma points (where n is the dimension of the state space) and their associated weights:

[0143] Compute the Cholesky factorization:

[0144] Selection that incorporates higher order information in the selected points: Wj= (1-W0)  /  (2N)      (12)

[0145] (2) Propagate Sigma Points:

[0146] (3) Compute Predicted Mean And Covariance:

[0147] 2) Correction steps:

[0148] (1) Predict Measurement from Propagated Sigma Points:

[0149] (2) Estimate Mean and Covariance of Predicted Measurement:

[0150] (3) Compute Cross-Covariance and Kalman Gain:

[0151] (4) Compute Corrected Covariance And Mean:

[0152] Evaluate the ripples of the determined output. Then update the matrix Rk: Rk+1=ρR (yk, Rk)           (23)

[0153] Step 4: Construct the disturbance observer.

[0154] The disturbance observer form is designed as:

[0155] Disturbance observer

[0156] where and are extended matrices of Ak and Bk, respectively; zk is the states of disturbance observer; Π (yk, zk) is the obervation function;  is the estimated disturbance; and hk (zk) is the measurement function.

[0157] Step 5: Evaluate the disturbance and update the matrices of UKF.

[0158] Evaluate the disturbance condition with the estimated disturbance:

[0159] where γ is the evaluation value; and is the evaluation function. Then, the matrix Qk is updated with the evaluation value γ as: Qk+1=ρQ (γk, Qk)          (26)

[0160] Where Qk+1 is updated covariance matrix, Qk is the covariance matrix before update

[0161] Step 6: Finally, the estimated output of UKF is sent to the switching mechanism to decide the determined output for secure feedback control.

[0162] Example 1 for robotics secure operation:

[0163] The following describes the implementation mode of the invention by taking the safe operation of the robot as an example.

[0164] FIG. 6 is an exemplary structural diagram of 2-DOF robot arms according to an embodiment of the present invention. 2-DOF robot arms includes two motors (drive motor 52 and drive motor 53) and two encoders (encoder 51 and encoder 53) . In this example, we consider the secure operating robot arm as shown in Figure 6, where the encoders (encoder 51 and encoder 53) of the joints may be attacked from the entrance of PLC or Drives.

[0165] The 2-DOF robot arms as shown in Figure 6 can be modeled as:

[0166] where q (t) = [θ1 (t) , θ2 (t) , δ1 (t) , δ2 (t) ] , θk are the joint angular positions and δj are the amplitudes of the two flexible modes considered for the forearm (the second link) . M (q) is the inertia matrix,  is the vector of Coriolis and centripetal torques, K and G are the stiffness and the damping matrices respectively, τ is the vector of control torques provided by the motors and G is an input matrix that is different from identity because of the chosen structure for the inertia matrix. The gravitational torques can be neglected due to the horizontal workspace of the robot.

[0167] 1) Model of 2-DOF robot arms

[0168] The matrices of the dynamic model of (E1) are defined as:

[0169] with m11=J1t+J2t+2h3cosθ2-2 (h1δ1+h2δ2) sinθ2 m12=J2t+h3cosθ2- (h1δ1+h2δ2) sinθ2 m13=h1cosθ2 m14=h2cosθ2 m22=J2t

[0170] The entries of the vector  are given by:

[0171] The input matrix is expressed as:

[0172] with

[0173] The damping and stiffness matrices G and K have diagonal structures: G=diag (0, 0, d1, d2) K=diag (0, 0, k1, k2)

[0174] Moreover, the deflection of the end-effector of the robot is given by:

[0175] 2) LPV Model of 2-DOF robot arms

[0176] An LPV model of system (E1) has been obtained by neglecting the terms involving the deformation variables in the inertia matrix, and reformulating some nonlinear terms as varying parameters:

[0177] Note that the varying parameters are functions of the measured state variables only. If we consider the output as the joint angular positions, the obtained LPV model takes the following state-space form:

[0178] 3) Implementation of the proposed approach

[0179] To deal with cyber-attacks to the robot arms, embodiments of present invention is implemented and tested, where interval observer for attacks monitoring and UKF are designed. In the simulation verification, the tracking performance of the robot arms deteriorated when cyber-attacks occur compared to normal conditions. In contrast, the motion control system shows strong robustness to cyber-attacks with the proposed method, which validates the effectiveness of the invention.

[0180] FIG. 7 is an exemplary flow chart of identification method of sparse attacks of a 2-DOF mechanical arm system according to the embodiment of the present invention. As shown in Figure 7, identification method of  sparse attacks includes:

[0181] Step 401: establish system model of the 2-DOF mechanical arm system.

[0182] Step 402: build an interval observer based on the system model.

[0183] Step 403: set estimated parameters in the interval observer by an off-line identification process of the 2-DOF mechanical arm system.

[0184] Step 404: generate state estimation of the 2-DOF mechanical arm system through the interval observer, based on a control input of the 2-DOF mechanical arm system and a measurement output provided by sensor of the 2-DOF mechanical arm system, during an online operation of the2-DOF mechanical arm system.

[0185] Step 405: judge whether the state estimation generated by the interval observer is beyond a predetermined reasonable range. If yes, execute step 406 and its subsequent steps; otherwise, execute step 409 and its subsequent steps.

[0186] Step 406: determine the 2-DOF mechanical arm system is under sparse attacks.

[0187] Step 407: output estimation of the measurement output provided by unscented Kalman filter to a filter.

[0188] Step 408: output the filtered estimation to control loop of the 2-DOF mechanical arm system to calculate next round of control instructions and end this process.

[0189] Step 409: determine the 2-DOF mechanical arm system is not under sparse attacks.

[0190] Step 410: send measurement output provided by the sensor of the 2-DOF mechanical arm system to control loop of the 2-DOF mechanical arm system to calculate next round of control commands, and end this process.

[0191] FIG. 8A is a tracking performance diagram when an attack occurs without implementing an embodiment of the invention. FIG. 8B is a tracking performance diagram when an attack occurs in the case of implementing an embodiment of the invention.

[0192] In respective Figure 8A and Figure 8B, the upper sub images are sparse attacks, the middle sub images are the positions of arm 1, and the lower sub images are the positions of arm 2. It can be seen from Figure 8A that when suffered from sparse attack 60, measurement track 63 of arm 2 deviates slightly from reference track 64, but measurement track 62 of arm 1 deviates greatly from reference track 61. As can be seen from Figure 8B, even under sparse attack 60, measurement track 63 of arm 2 deviates slightly from reference track 64, and measurement track 65 of arm 1 deviates slightly from the reference track 61.

[0193] Example 2 for Adaptive Cruise Control (ACC) of vehicles:

[0194] Recently, smarter vehicles have attracted more and more attentions from customers, due to their high-level automation and effort-saving operation modes. In such smart vehicles, the function of Adaptive Cruise Control (ACC) is a basic and normal function, which is usually used in freeway and high-speed scene. At the same time,  the safety of ACC function is vital, especially for complex traffic conditions. If the sensors of vehicles are attacked through information channel, the driver's safety will be threatened. Thus, the cyber protection is necessary for ACC subsystem.

[0195] FIG. 9A is an exemplary schematic diagram of a model of Vehicle longitudinal direction. FIG. 9B is a schematic diagram of vehicle location.

[0196] 1) Vehicle dynamic model of longitudinal direction

[0197] As shown in 错误!未找到引用源., we first consider the vehicle dynamic model of longitudinal direction.

[0198] Defined the states as:

[0199] Where Δd (t) is the vehicle-to-vehicle distance error between the desired distance ddes (t) and the actual distance d (t); Δv (t) is the velocity error between the speed of target vehicle vpv (t) and the ACC vehicle vEV (t) . And the desired vehicle-to-vehicle distance of the ACC vehicle is ddes (t) =τhvEV (t) +d0, where τh is the time headway and d0 is minimum safety distance.

[0200] In the ACC design, the relationship between the actual acceleration aEV and the desired acceleration aEVdesis assumed as:

[0201] Where Ts is the sampling period, and τL is the time constant for the inertial element.

[0202] Define the system state as: x (t) = [Δd(t) ,Δv(t) ,aEV(t) ] and the control input as u (t)=aEV (t) .

[0203] Then, the state space model of the vehicle dynamics can be written as:

[0204] Where ρ (t) =apv (t) is the disturbance acceleration, and the system matrices are:

[0205] C = diag (1, 1, 1) .

[0206] For the purpose of control convenience, system (E7) can be rewritten as the following incremental form:

[0207] Where Δx (t) = x (t) - x (t-1) ; Δu (t) = u (t) - u (t-1) ; and Δρ (t) = ρ (t) - ρ (t-1) .

[0208] 2) Feasibility analysis for lane change with complex traffic conditions

[0209] Then we consider the traffic condition as shown in FIG. 9B, we can calculate the minimum safe distance as:

[0210] ① The minimum safe distance between vehicle M and vehicle Ed: In the lance change, the acceleration is  assumed as 0. And we can get:

[0211] Where LM is the length of vehicle M; θ is the angle between the lane and the direction of vehicle M; tp1 and is the critical collision instant.

[0212] ② The minimum safe distance between vehicle M and vehicle Fd: In the lance change, the acceleration is assumed as 0. And we can get:

[0213] Where tp2 is the critical collision instant; VM and VFd are velocities of vehicles of M and Fd, respectively; LM and wm are length and width of vehicle M, respectively.

[0214] 3) Trajectory planning of lane changing

[0215] In the lane changing, the lateral position of vehicle can be calculated from the current lateral position, longitudinal speed, and heading angle deviation can be calculated as: yp=yc+vxcφecτ        (E11)

[0216] Where yp is the lateral position of the preview point; y is the current lateral position of the vehicle; vxc is the vehicle speed in the longitude dierection; φec is the error between the actual and desired heading angles; τ is the preview time. It can be observed that the preview distance is determined by vxc and τ.

[0217] 4) Implementation of the proposed approach

[0218] If the sensors of the vehicle suffer cyber-attacks, the output of the position, oriental and velocity will be largely influenced. It will threat the safety of drivers. To solve this problem, the proposed approach of the invention is implemented for this application test.

[0219] Embodiments of the invention propose a secure state estimation method based on cyber-attacks identification and safe switching mechanism for safety critical systems. Interval observers are designed to identify the cyber-attacks in the invention. Unscented Kalman filter is used to provide the optimal estimation for the signals of interest. A switching mechanism using the estimation results and abnormal state prediction. The output of the sensing system will determine by the switching mechanism. The dynamic model parameters of observers and filters will be determined by model identification module. Embodiments of the invention has at least one of the following advantages: (1) Improve the system robustness and safety to cyber-attacks. (2) The invention uses interval observers and unscented Kalman filter to identify cyber-attacks and non-high gain estimation for safety critical system control. (3) Optimal secure state estimation based on unscented Kalman filter.

[0220] Embodiments of the present invention also provide an electronic device with processor-memory architecture. FIG. 10 is a structural diagram of an electronic device according to an embodiment of the present invention. As shown in FIG. 10, the electronic device 600 comprises a processor 601, a memory 602, and a computer program stored in the memory 602 and executable on the processor 601. When the computer program is executed by the processor 601, any one of the above-mentioned methods for or identifying sparse attacks is implemented. The memory 602 may specifically be implemented as various storage medium such as Electrically Erasable Programmable Read-Only Memory (EEPROM) , Flash memory (Flash memory) , Programmable Program Read-Only Memory (PROM) . The processor 601 may be implemented to include one or more central processing units or one or more field programmable gate arrays, wherein the field programmable gate arrays integrate one or more central processing unit cores. Specifically, the central processing unit or central processing unit core may be implemented as a CPU or MCU or DSP, and so on.

[0221] Embodiments of the present invention also provide a machine-readable storage medium, which stores instructions for a machine to execute the method as described in the application. Specifically, it is possible to provide a system or device equipped with a storage medium on which software program codes that implement the functions of any of the above embodiments are stored, and to enable the computer (or CPU or MPU) of the system or device to read and execute the program codes stored in the storage medium. In addition, it is also possible to complete some or all of the actual operations through the operating system and the like operated on the computer by instructions based on program code. It is also possible to write the program code read from the storage medium into the memory set in the expansion board inserted in the computer or into the memory set in the expansion unit connected to the computer. Then, based on the instructions of the program code, the CPU installed on the expansion board or expansion unit can execute some and all actual operations, thus realizing the functions of any of the above embodiments. The storage media implementations used to provide program code include floppy disk, hard disk, magneto-optical disk, optical disk (such as CD-ROM, CD-R, CD-RW, DVD-ROM, DVD-RAM, DVD-RW, DVD+RW) , tape, non-volatile memory card, and ROM. Optionally, the program code can be downloaded from the server computer or cloud by the communication network.

[0222] It should be noted that not all steps and modules in the above-mentioned processes and structural diagrams are necessary, and some steps or modules may be omitted according to actual needs. The execution logic of each step is not fixed and can be adjusted as needed. The division of each module is only to facilitate the description of the functional division used. In actual implementation, a module can be implemented by multiple modules, and the functions of multiple modules can also be implemented by the same module. These modules can be in the same device or in a different device.

[0223] The hardware modules in various embodiments may be implemented mechanically or electronically. For  example, a hardware module may include specially designed permanent circuits or logic devices (e.g., special-purpose processors, such as FPGAs or ASICs) to perform specific operations. Hardware modules may also include programmable logic devices or circuits temporarily configured by software (e.g., including general-purpose processors or other programmable processors) for performing operations. As for the specific mechanical method, or a dedicated permanent circuit, or a temporarily configured circuit (e.g., configured by software) to realize the hardware module, it can be decided according to cost and time considerations.

[0224] The above descriptions are merely preferred embodiments of the present invention, and are not intended to limit the protection scope of the present invention. Any modification, equivalent replacement, improvement, etc. made within the spirit and principle of the present invention shall be included within the protection scope of the present invention.

Claims

1.A system for identifying sparse attacks, comprising:an interval observer (12) , configured to generate a state estimation of a controlled object (10) based on a control input of the controlled object (10) and a measurement output provided by a sensor (11) of the controlled object (10) ; anda first determining module (13) , configured to judge whether the state estimation is within a predetermined range, determine the sensor (11) is not under sparse attacks when it is judged that the state estimation is within the predetermined range or determine the sensor (11) is under sparse attacks when it is judged that the state estimation is not within the predetermined range.2.The system of claim 1, comprising a sampling module (14) ;wherein the first determining module (13) , configured to output the measurement output when it is determined that the sensor (11) is not under sparse attacks or send the measurement output to the sampling module (14) when it is determined that the sensor (11) is under sparse attacks;the sampling module (14) , configured to perform sampling processing on the measurement output based on a predetermined sampling period.3.The system of claim 1, wherein the sampling module (14) is configured to reduce the sampling period in a next round of sampling processing when a noise level of the measurement output is greater than a first threshold, increase the sampling period in the next round of sampling processing when the noise level of the measurement output is less than a second threshold, maintain the sampling period in the next round of sampling processing when the noise level of the measurement output is within an interval range defined by the first threshold and the second threshold, wherein the first threshold is greater than the second threshold.4.The system of claim 3, comprising:an unscented Kalman filter (15) , configured to determine an estimation of the measurement output based on the control input and a sampled measurement output;a filtering module (16) , configured to filter the estimation of the measurement output;wherein the first determining module (13) , configured to output a filtered estimation of the measurement output when it is determined that the sensor (11) is under sparse attacks.5.The system of claim 4, comprising:a disturbance estimator (17) , configured to determine a disturbance estimation of the controlled object (10) based on the control input and the sampled measurement output.6.The system of claim 5, comprising:a disturbance evaluator (18) , configured to generate an evaluation value for the disturbance estimation, and adjust covariance matrix parameters of the unscented Kalman filter (15) based on the evaluation value.7.The system of any one of claims 1-6, comprising:a second determining module (19) , configured to determine estimation parameters of the interval observer (12) based on an offline control input of the controlled object (10) and an offline measurement output provided by the sensor (11) of the controlled object (10) during an offline process.8.A method for identifying sparse attacks, comprising:enabling (301) an interval observer to generate a state estimation of a controlled object based on a control input of the controlled object and a measurement output provided by a sensor of the controlled object;judging (302) whether the state estimation is within a predetermined range; anddetermining (303) the sensor is not under sparse attacks when it is judged that the state estimation is within the predetermined range or determining (304) the sensor is under sparse attacks when it is judged that the state estimation is not within the predetermined range.9.The method of claim 8, comprising:outputting the measurement output when it is determined that the sensor is not under sparse attacks or sending the measurement output to a sampling module when it is determined that the sensor is under sparse attacks;enabling the sampling module to perform sampling processing on the measurement output based on a predetermined sampling period.10.The method of claim 9, comprising:enabling the sampling module to reduce the sampling period in a next round of sampling processing when a noise level of the measurement output is greater than a first threshold, increase the sampling period in the next round of sampling processing when the noise level of the measurement output is less than a second threshold, maintain the sampling period in the next round of sampling processing when the noise level of the measurement output is within an interval range defined by the first threshold and the second threshold, wherein the first threshold is greater than the second threshold.11.The method of claim 10, comprising:enabling an unscented Kalman filter to determine an estimation of the measurement output based on the control input and a sampled measurement output;filtering the estimation of the measurement output;outputting a filtered estimation of the measurement output when it is determined that the sensor is under sparse attacks.12.The method of claim 11, comprising:determining a disturbance estimation of the controlled object based on the control input and the sampled measurement output.13.The method of claim 12, comprising:generating an evaluation value for the disturbance estimation;adjusting covariance matrix parameters of the unscented Kalman filter based on the evaluation value.14.The method of any one of claims 8-13, comprising:determining estimation parameters of the interval observer based on an offline control input of the controlled object and an offline measurement output provided by the sensor of the controlled object during an offline process.15.An electronic device, comprising a processor (601) and a memory (602) , wherein an application program executable by the processor (601) is stored in the memory (602) for causing the processor (601) to execute a method for identifying sparse attacks according to any one of claims 8-14.16.A computer-readable medium comprising computer-readable instructions stored thereon, wherein the computer-readable instructions for executing a method for identifying sparse attacks according to any one of claims 8-14.17.A computer program product comprising a computer program, upon the computer program is executed by a processor for executing a method for identifying sparse attacks according to any one of claims 8-14.

Images