Method, apparatus, and medium for video coding

Abstract

Embodiments of the present disclosure provide a solution for video processing. A method for video processing is proposed. The method comprises: obtaining, for a conversion between a video unit of a video and a bitstream of the video, a feature vector by applying a pre-analysis to a list of frames associated with the video unit; determining a prediction structure by feeding the feature vector to a model as an input; and performing the conversion based on the prediction structure.

Description

METHOD, APPARATUS, AND MEDIUM FOR VIDEO CODING

[0001] FIELDS

[0002] Embodiments of the present disclosure relates generally to video processing techniques, and more particularly, to content-aware adaptive prediction structure decision.BACKGROUND

[0003] In nowadays, digital video capabilities are being applied in various aspects of peoples’ lives. Multiple types of video compression technologies, such as MPEG-2, MPEG-4, ITU-TH. 263, ITU-TH. 264 / MPEG-4 Part 10 Advanced Video Coding (AVC) , ITU-TH. 265 high efficiency video coding (HEVC) standard, versatile video coding (VVC) standard, have been proposed for video encoding / decoding. However, coding efficiency of video coding techniques is generally expected to be further improved.SUMMARY

[0004] Embodiments of the present disclosure provide a solution for content-aware adaptive prediction structure decision.

[0005] In a first aspect, a method for video coding is proposed. The method comprises: obtaining, for a conversion between a video unit of a video and a bitstream of the video, a feature vector by applying a pre-analysis to a list of frames associated with the video unit; determining a prediction structure by feeding the feature vector to a model as an input; and performing the conversion based on the prediction structure. In this way it can improve the effectiveness of prediction structure decision. Furthermore, coding efficiency can be improved.

[0006] In a second aspect, an apparatus for video coding is proposed. The apparatus comprises a processor and a non-transitory memory with instructions thereon. The instructions upon execution by the processor, cause the processor to perform a method in accordance with the first aspect of the present disclosure.

[0007] In a third aspect, a non-transitory computer-readable storage medium is proposed. The non-transitory computer-readable storage medium stores instructions that cause a processor to perform a method in accordance with the first aspect of the present disclosure.

[0008] In a fourth aspect, another non-transitory computer-readable recording medium is proposed. The non-transitory computer-readable recording medium stores a bitstream of a video which is generated by a method performed by an apparatus for video coding. The method comprises: obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video; determining a prediction structure by feeding the feature vector to a model as an input; and generating a bitstream of the video unit based on the prediction structure.

[0009] In a fifth aspect, a method for storing a bitstream of a video is proposed. The method comprises: obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video; determining a prediction structure by feeding the feature vector to a model as an input; generating a bitstream of the video unit based on the prediction structure; and storing the bitstream in a non-transitory computer-readable recording medium.

[0010] This Summary is provided to introduce a selection of concepts in a simplified form that are further described below in the Detailed Description. This Summary is not intended to identify key features or essential features of the claimed subject matter, nor is it intended to be used to limit the scope of the claimed subject matter.BRIEF DESCRIPTION OF THE DRAWINGS

[0011] Through the following detailed description with reference to the accompanying drawings, the above and other objectives, features, and advantages of example embodiments of the present disclosure will become more apparent. In the example embodiments of the present disclosure, the same reference numerals usually refer to the same components.

[0012] Fig. 1 illustrates a block diagram that illustrates an example video coding system, in accordance with some embodiments of the present disclosure;

[0013] Fig. 2 illustrates a block diagram that illustrates a first example video encoder, in accordance with some embodiments of the present disclosure;

[0014] Fig. 3 illustrates a block diagram that illustrates an example video decoder, in accordance with some embodiments of the present disclosure;

[0015] Fig. 4 illustrates a schematic diagram of hierarchical prediction structure with 3 temporal levels;

[0016] Fig. 5 illustrates a flowchart of a process of content-aware prediction structure decision;

[0017] Fig. 6 illustrates a flowchart of a process of training the machine learning model;

[0018] Fig. 7 illustrates a flowchart of a method for video coding in accordance with embodiments of the present disclosure;

[0019] Fig. 8 illustrates a block diagram of a computing device in which various embodiments of the present disclosure can be implemented.

[0020] Throughout the drawings, the same or similar reference numerals usually refer to the same or similar elements.DETAILED DESCRIPTION

[0021] Principle of the present disclosure will now be described with reference to some embodiments. It is to be understood that these embodiments are described only for the purpose of illustration and help those skilled in the art to understand and implement the present disclosure, without suggesting any limitation as to the scope of the disclosure. The disclosure described herein can be implemented in various manners other than the ones described below.

[0022] In the following description and claims, unless defined otherwise, all technical and scientific terms used herein have the same meaning as commonly understood by one of ordinary skills in the art to which this disclosure belongs.

[0023] References in the present disclosure to “one embodiment, ” “an embodiment, ” “an example embodiment, ” and the like indicate that the embodiment described may include a particular feature, structure, or characteristic, but it is not necessary that every embodiment includes the particular feature, structure, or characteristic. Moreover, such phrases are not necessarily referring to the same embodiment. Further, when a particular feature, structure, or characteristic is described in connection with an example embodiment, it is submitted that it is within the knowledge of one skilled in the art to affect such feature, structure, or characteristic in connection with other embodiments whether or not explicitly described.

[0024] It shall be understood that although the terms “first” and “second” etc. may be used herein to describe various elements, these elements should not be limited by these  terms. These terms are only used to distinguish one element from another. For example, a first element could be termed a second element, and similarly, a second element could be termed a first element, without departing from the scope of example embodiments. As used herein, the term “and / or” includes any and all combinations of one or more of the listed terms.

[0025] The terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of example embodiments. As used herein, the singular forms “a” , “an” and “the” are intended to include the plural forms as well, unless the context clearly indicates otherwise. It will be further understood that the terms “comprises” , “comprising” , “has” , “having” , “includes” and / or “including” , when used herein, specify the presence of stated features, elements, and / or components etc., but do not preclude the presence or addition of one or more other features, elements, components and / or combinations thereof.

[0026] Example Environment

[0027] Fig. 1 is a block diagram that illustrates an example video coding system 100 that may utilize the techniques of this disclosure. As shown, the video coding system 100 may include a source device 110 and a destination device 120. The source device 110 can be also referred to as a video encoding device, and the destination device 120 can be also referred to as a video decoding device. In operation, the source device 110 can be configured to generate encoded video data and the destination device 120 can be configured to decode the encoded video data generated by the source device 110. The source device 110 may include a video source 112, a video encoder 114, and an input / output (I / O) interface 116.

[0028] The video source 112 may include a source such as a video capture device. Examples of the video capture device include, but are not limited to, an interface to receive video data from a video content provider, a computer graphics system for generating video data, and / or a combination thereof.

[0029] The video data may comprise one or more pictures. The video encoder 114 encodes the video data from the video source 112 to generate a bitstream. The bitstream may include a sequence of bits that form a coded representation of the video data. The bitstream may include coded pictures and associated data. The coded picture is a coded  representation of a picture. The associated data may include sequence parameter sets, picture parameter sets, and other syntax structures. The I / O interface 116 may include a modulator / demodulator and / or a transmitter. The encoded video data may be transmitted directly to destination device 120 via the I / O interface 116 through the network 130A. The encoded video data may also be stored onto a storage medium / server 130B for access by destination device 120.

[0030] The destination device 120 may include an I / O interface 126, a video decoder 124, and a display device 122. The I / O interface 126 may include a receiver and / or a modem. The I / O interface 126 may acquire encoded video data from the source device 110 or the storage medium / server 130B. The video decoder 124 may decode the encoded video data. The display device 122 may display the decoded video data to a user. The display device 122 may be integrated with the destination device 120, or may be external to the destination device 120 which is configured to interface with an external display device.

[0031] The video encoder 114 and the video decoder 124 may operate according to a video compression standard, such as the High Efficiency Video Coding (HEVC) standard, Versatile Video Coding (VVC) standard and other current and / or further standards.

[0032] Fig. 2 is a block diagram illustrating an example of a video encoder 200, which may be an example of the video encoder 114 in the system 100 illustrated in Fig. 1, in accordance with some embodiments of the present disclosure.

[0033] The video encoder 200 may be configured to implement any or all of the techniques of this disclosure. In the example of Fig. 2, the video encoder 200 includes a plurality of functional components. The techniques described in this disclosure may be shared among the various components of the video encoder 200. In some examples, a processor may be configured to perform any or all of the techniques described in this disclosure.

[0034] In some embodiments, the video encoder 200 may include a partition unit 201, a predication unit 202 which may include a mode select unit 203, a motion estimation unit 204, a motion compensation unit 205 and an intra-prediction unit 206, a residual generation unit 207, a transform unit 208, a quantization unit 209, an inverse quantization unit 210, an inverse transform unit 211, a reconstruction unit 212, a buffer 213, and an entropy encoding unit 214.

[0035] In other examples, the video encoder 200 may include more, fewer, or different functional components. In an example, the predication unit 202 may include an intra block copy (IBC) unit. The IBC unit may perform predication in an IBC mode in which at least one reference picture is a picture where the current video block is located.

[0036] Furthermore, although some components, such as the motion estimation unit 204 and the motion compensation unit 205, may be integrated, but are represented in the example of Fig. 2 separately for purposes of explanation.

[0037] The partition unit 201 may partition a picture into one or more video blocks. The video encoder 200 and the video decoder 300 may support various video block sizes.

[0038] The mode select unit 203 may select one of the coding modes, intra or inter, e.g., based on error results, and provide the resulting intra-coded or inter-coded block to a residual generation unit 207 to generate residual block data and to a reconstruction unit 212 to reconstruct the encoded block for use as a reference picture. In some examples, the mode select unit 203 may select a combination of intra and inter predication (CIIP) mode in which the predication is based on an inter predication signal and an intra predication signal. The mode select unit 203 may also select a resolution for a motion vector (e.g., a sub-pixel or integer pixel precision) for the block in the case of inter-predication.

[0039] To perform inter prediction on a current video block, the motion estimation unit 204 may generate motion information for the current video block by comparing one or more reference frames from buffer 213 to the current video block. The motion compensation unit 205 may determine a predicted video block for the current video block based on the motion information and decoded samples of pictures from the buffer 213 other than the picture associated with the current video block.

[0040] The motion estimation unit 204 and the motion compensation unit 205 may perform different operations for a current video block, for example, depending on whether the current video block is in an I-slice, a P-slice, or a B-slice. As used herein, an “I-slice” may refer to a portion of a picture composed of macroblocks, all of which are based upon macroblocks within the same picture. Further, as used herein, in some aspects, “P-slices” and “B-slices” may refer to portions of a picture composed of macroblocks that are not dependent on macroblocks in the same picture.

[0041] In some examples, the motion estimation unit 204 may perform uni-directional prediction for the current video block, and the motion estimation unit 204 may search reference pictures of list 0 or list 1 for a reference video block for the current video block. The motion estimation unit 204 may then generate a reference index that indicates the reference picture in list 0 or list 1 that contains the reference video block and a motion vector that indicates a spatial displacement between the current video block and the reference video block. The motion estimation unit 204 may output the reference index, a prediction direction indicator, and the motion vector as the motion information of the current video block. The motion compensation unit 205 may generate the predicted video block of the current video block based on the reference video block indicated by the motion information of the current video block.

[0042] Alternatively, in other examples, the motion estimation unit 204 may perform bi-directional prediction for the current video block. The motion estimation unit 204 may search the reference pictures in list 0 for a reference video block for the current video block and may also search the reference pictures in list 1 for another reference video block for the current video block. The motion estimation unit 204 may then generate reference indexes that indicate the reference pictures in list 0 and list 1 containing the reference video blocks and motion vectors that indicate spatial displacements between the reference video blocks and the current video block. The motion estimation unit 204 may output the reference indexes and the motion vectors of the current video block as the motion information of the current video block. The motion compensation unit 205 may generate the predicted video block of the current video block based on the reference video blocks indicated by the motion information of the current video block.

[0043] In some examples, the motion estimation unit 204 may output a full set of motion information for decoding processing of a decoder. Alternatively, in some embodiments, the motion estimation unit 204 may signal the motion information of the current video block with reference to the motion information of another video block. For example, the motion estimation unit 204 may determine that the motion information of the current video block is sufficiently similar to the motion information of a neighboring video block.

[0044] In one example, the motion estimation unit 204 may indicate, in a syntax structure associated with the current video block, a value that indicates to the video decoder 300 that the current video block has the same motion information as the another video block.

[0045] In another example, the motion estimation unit 204 may identify, in a syntax structure associated with the current video block, another video block and a motion vector difference (MVD) . The motion vector difference indicates a difference between the motion vector of the current video block and the motion vector of the indicated video block. The video decoder 300 may use the motion vector of the indicated video block and the motion vector difference to determine the motion vector of the current video block.

[0046] As discussed above, video encoder 200 may predictively signal the motion vector. Two examples of predictive signaling techniques that may be implemented by video encoder 200 include advanced motion vector predication (AMVP) and merge mode signaling.

[0047] The intra prediction unit 206 may perform intra prediction on the current video block. When the intra prediction unit 206 performs intra prediction on the current video block, the intra prediction unit 206 may generate prediction data for the current video block based on decoded samples of other video blocks in the same picture. The prediction data for the current video block may include a predicted video block and various syntax elements.

[0048] The residual generation unit 207 may generate residual data for the current video block by subtracting (e.g., indicated by the minus sign) the predicted video block (s) of the current video block from the current video block. The residual data of the current video block may include residual video blocks that correspond to different sample components of the samples in the current video block.

[0049] In other examples, there may be no residual data for the current video block for the current video block, for example in a skip mode, and the residual generation unit 207 may not perform the subtracting operation.

[0050] The transform processing unit 208 may generate one or more transform coefficient video blocks for the current video block by applying one or more transforms to a residual video block associated with the current video block.

[0051] After the transform processing unit 208 generates a transform coefficient video block associated with the current video block, the quantization unit 209 may quantize the transform coefficient video block associated with the current video block based on one or more quantization parameter (QP) values associated with the current video block.

[0052] The inverse quantization unit 210 and the inverse transform unit 211 may apply inverse quantization and inverse transforms to the transform coefficient video block, respectively, to reconstruct a residual video block from the transform coefficient video block. The reconstruction unit 212 may add the reconstructed residual video block to corresponding samples from one or more predicted video blocks generated by the predication unit 202 to produce a reconstructed video block associated with the current video block for storage in the buffer 213.

[0053] After the reconstruction unit 212 reconstructs the video block, loop filtering operation may be performed to reduce video blocking artifacts in the video block.

[0054] The entropy encoding unit 214 may receive data from other functional components of the video encoder 200. When the entropy encoding unit 214 receives the data, the entropy encoding unit 214 may perform one or more entropy encoding operations to generate entropy encoded data and output a bitstream that includes the entropy encoded data.

[0055] Fig. 3 is a block diagram illustrating an example of a video decoder 300, which may be an example of the video decoder 124 in the system 100 illustrated in Fig. 1, in accordance with some embodiments of the present disclosure.

[0056] The video decoder 300 may be configured to perform any or all of the techniques of this disclosure. In the example of Fig. 3, the video decoder 300 includes a plurality of functional components. The techniques described in this disclosure may be shared among the various components of the video decoder 300. In some examples, a processor may be configured to perform any or all of the techniques described in this disclosure.

[0057] In the example of Fig. 3, the video decoder 300 includes an entropy decoding unit 301, a motion compensation unit 302, an intra prediction unit 303, an inverse quantization unit 304, an inverse transformation unit 305, and a reconstruction unit 306 and a buffer 307. The video decoder 300 may, in some examples, perform a decoding pass generally reciprocal to the encoding pass described with respect to video encoder 200.

[0058] The entropy decoding unit 301 may retrieve an encoded bitstream. The encoded bitstream may include entropy coded video data (e.g., encoded blocks of video data) . The entropy decoding unit 301 may decode the entropy coded video data, and from the entropy decoded video data, the motion compensation unit 302 may determine motion information  including motion vectors, motion vector precision, reference picture list indexes, and other motion information. The motion compensation unit 302 may, for example, determine such information by performing the AMVP and merge mode. AMVP is used, including derivation of several most probable candidates based on data from adjacent PBs and the reference picture. Motion information typically includes the horizontal and vertical motion vector displacement values, one or two reference picture indices, and, in the case of prediction regions in B slices, an identification of which reference picture list is associated with each index. As used herein, in some aspects, a “merge mode” may refer to deriving the motion information from spatially or temporally neighboring blocks.

[0059] The motion compensation unit 302 may produce motion compensated blocks, possibly performing interpolation based on interpolation filters. Identifiers for interpolation filters to be used with sub-pixel precision may be included in the syntax elements.

[0060] The motion compensation unit 302 may use the interpolation filters as used by the video encoder 200 during encoding of the video block to calculate interpolated values for sub-integer pixels of a reference block. The motion compensation unit 302 may determine the interpolation filters used by the video encoder 200 according to the received syntax information and use the interpolation filters to produce predictive blocks.

[0061] The motion compensation unit 302 may use at least part of the syntax information to determine sizes of blocks used to encode frame (s) and / or slice (s) of the encoded video sequence, partition information that describes how each macroblock of a picture of the encoded video sequence is partitioned, modes indicating how each partition is encoded, one or more reference frames (and reference frame lists) for each inter-encoded block, and other information to decode the encoded video sequence. As used herein, in some aspects, a “slice” may refer to a data structure that can be decoded independently from other slices of the same picture, in terms of entropy coding, signal prediction, and residual signal reconstruction. A slice can either be an entire picture or a region of a picture.

[0062] The intra prediction unit 303 may use intra prediction modes for example received in the bitstream to form a prediction block from spatially adjacent blocks. The inverse quantization unit 304 inverse quantizes, i.e., de-quantizes, the quantized video block coefficients provided in the bitstream and decoded by entropy decoding unit 301.  The inverse transform unit 305 applies an inverse transform.

[0063] The reconstruction unit 306 may obtain the decoded blocks, e.g., by summing the residual blocks with the corresponding prediction blocks generated by the motion compensation unit 302 or intra-prediction unit 303. If desired, a deblocking filter may also be applied to filter the decoded blocks in order to remove blockiness artifacts. The decoded video blocks are then stored in the buffer 307, which provides reference blocks for subsequent motion compensation / intra predication and also produces decoded video for presentation on a display device.

[0064] Some exemplary embodiments of the present disclosure will be described in detailed hereinafter. It should be understood that section headings are used in the present document to facilitate ease of understanding and do not limit the embodiments disclosed in a section to only that section. Furthermore, while certain embodiments are described with reference to Versatile Video Coding or other specific video codecs, the disclosed techniques are applicable to other video coding technologies also. Furthermore, while some embodiments describe video coding steps in detail, it will be understood that corresponding steps decoding that undo the coding will be implemented by a decoder. Furthermore, the term video processing encompasses video coding or compression, video decoding or decompression and video transcoding in which video pixels are represented from one compressed format into another compressed format or at a different compressed bitrate.

[0065] 1. Brief Introduction

[0066] The present disclosure is related to video coding technologies. Specifically, it is related to prediction structure decision in video coding. It may be applied to the existing video coding standard like High Efficiency Video Coding (HEVC) , or Versatile Video Coding (VVC) . It may also be applicable to other video coding standards or video codecs.

[0067] 2. Background

[0068] Video coding standards have evolved primarily through the development of the well-known ITU-T and ISO / IEC standards. The ITU-T standardized H. 261 and H. 263, while ISO / IEC standardized MPEG-1 and MPEG-4 Visual during the similar period, and the two organizations  jointly worked out the H. 262 / MPEG-2 Video, H. 264 / MPEG-4 Advanced Video Coding (AVC) and H. 265 / HEVC standards. Since H. 262, the video coding standards are based on the hybrid video coding structure wherein temporal prediction plus transform coding are utilized. In April 2018, the Joint Video Expert Team (JVET) between VCEG (Q6 / 16) and ISO / IEC JTC1 SC29 / WG11 (MPEG) was created to work on the VVC standard targeting at 50%bitrate reduction compared to HEVC. In the context of video coding, the decision of inter frame prediction structure is one of the key factors affecting coding efficiency. The encoder takes multiple pictures and encodes them into segments called "Group of Pictures" (GOP) . Within GOP, the hierarchical prediction structure is generally applied. The decoder reads and decodes these segments to display the images in a display order. A GOP is a group of consecutive pictures that consists of one I-frame and several B / P-frames. It is the basic unit of access for video codecs.

[0069] 2.1 Prediction Structure

[0070] According to the definition of video standards, there are several types of slices supported in video coding, including Intra (I) slice, Predictive (P) slice, and Bi-predictive (B) slice. The frame with a different slice type has different characteristics and is used for different purposes.

[0071] Intra slice, also known as I-frame, is encoded without referring to any other frames. The video data in Intra slice is compressed by removing spatial redundant information within the same frame. A video stream always starts with an I-frame and has a series of I-frames at regular intervals. I-frames are sometimes referred to as keyframes, which allow random access to (almost) any position in the stream because they can be decoded without any dependency of other frames’ decoding. They can also be used for video previews. However, since I-frames only remove spatial redundant information to some extent, they will occupy a large amount of storage.

[0072] Predictive slice, also known as P-frame, is a type of inter-frame prediction that requires a previous I-frame or P-frame in display order as a reference frame for encoding. P-frames analyze the reference frame and only encode the parts that have changed, resulting in a much smaller size compared to I-frames. However, since P-frames require a reference frame, they have lower tolerance for transmission errors.

[0073] Bi-predictive slice, also known as B-frame, is also a type of inter-frame prediction that requires both previous frames and future frames for encoding. Motion estimation is utilized to predict values of the current frame based on both past and future frames, resulting in a higher compression ratio. Moreover, some B-frames can also be employed as reference frames to other B-frames, called B-ref frames. However, B-frames obviously increase the encoding complexity and have higher requirements for delay, so they are usually not applied in real-time communication applications. For B-frame coding, it has two reference picture lists. Usually, some reference pictures are from its preceding frames and others are from its following frames. In HEVC / VVC, a generalized P and B (GPB) frame is introduced in order to improve the coding  efficiency, of which all reference pictures in two lists are from its preceding frames. The GBP-frame will not introduce more delay compared to P-frame.

[0074] A typical hierarchical prediction structure with 3 dyadic hierarchy stages is depicted in Fig. 4. The first picture of a video sequence is intra-coded as IDR (instantaneous decoder refresh) picture. A picture is called key picture, which all previously coded pictures precede in display order. So-called key pictures are coded in regular (or even irregular) intervals. As illustrated in Fig. 4, a key picture and all pictures that are temporally located between the current key picture and the previous key picture are considered to build GOP. The key pictures are either intra-coded (e.g. in order to enable random access) or inter-coded using previous (key) pictures as references for motion-compensated prediction (MCP) . The remaining pictures of a GOP are hierarchically predicted as illustrated in Fig. 4 and coded using the B-frame. Hierarchical prediction structures can also be used for supporting several levels of temporal scalability. For this purpose, it has to be ensured that only pictures of a lower or the same temporal level are employed as references for MCP (Fig. 4) . Then, the sequence of key pictures represents the lowest supported temporal resolution, and this temporal resolution can be refined by adding the temporal refinement pictures of finer temporal levels.

[0075] 2.2 Prediction Structure Decision Process

[0076] The hierarchical prediction structure decision problem is stated as follows: Let φ =fn-1 denote the last nominated non-B-frame, the subsequence undetermined frame list is F={fi|n≤i≤n+N-1} , where n and i represent the frame POC. N is the maximum value of each prediction structure searching length. Usually, the last frame, i.e., fn+N-1, is temporally attributed as I / P / GPB-frame in the decision process. For example, fn+N-1 will be coded as a P-frame in following discussion. There are three methods to decide the hierarchical prediction structure of the rest frames.

[0077] · Fixed GOP Structure

[0078] The most straight way is using a fixed GOP structure. Supposed that the maximum number of consecutive B-frames is l, the prediction structure of frame list F are attributed as follows.

[0079] The N frames are divided into serval GOP with size l+1. Each GOP except the last GOP consists of l consecutive hierarchical B-frames and 1 P-frame.

[0080] · Fast Dynamic Prediction Structure Decision

[0081] The prediction structure decision is divided into several epochs. In each epoch, the first GOP will be decided in F, of which the tailing P-frame is fv-1, and then, F is updated by removing all frames belonging to this GOP, i.e., F= {fi|v≤i≤v+N-1} and fv-1 is used as φ. If F is not empty, the next epoch will be carried out. In each epoch, the critic goal is to find the first P-frame in F. Let i denote the POC of the current frame under analysis in F. Ci (d0, d1) is the frame-level cost of the current frame fi , of which the forward and the backward POC differences are d0 and d1, respectively. If d0 or d1 is zero, it indicates that the reference picture  in either the forward or the backward direction is not available.  is the number of Intra-coded 8×8-CUs in frame cost calculating process. Ncu is the total number of 8 × 8-CU in a half-resolution-frame. If any one of the following conditions is satisfied, fi is determined as the P-frame:

[0082] · First, the P prediction cost of fv+1 using fv-1 as the reference, i.e., Cv+1 (2, 0) is derived. If  fv andfv+1 in F are both identified as P-frames.

[0083] · Second, if Cv (1, 0) + Cv+1 (1, 0) < Cv (1, 1) + Cv+1 (2, 0) , that is the PP type coding costs of {fv , fv+1} is less than their BP type costs, then fv is assigned as P-frame.

[0084] · If the above two conditions are not met, fv is assigned as B-frame. Then, the list F is scanned from fv+1 to fv+l-1 until a P-frame is determined, where l is the maximum number of consecutive B-frames. In this procedure, the frame fv-1 is applied as the reference to compute Ci (i-v+1, 0) , where v + 1 ≤ i≤v+l-1. If the following condition is satisfied, i.e., Ci (i-v+1, 0) >Ncu ·T or where thresh T is defined as max (300 -50 (i -v -1) , 30) , fi is determined as P-frame. Otherwise, fi is B-frame.

[0085] · Trellis Dynamic Prediction Structure Decision

[0086] This strategy uses a dynamic programming algorithm for a global prediction structure decision search. Assuming that the optimal path for the previous i (n≤i≤n+N-1) frames has been calculated (i.e., the optimal paths for the previous one frame, the previous two frames, …, up to the previous i frames have been calculated) , now it needs to calculate the optimal path for the previous (i+1) frames. A variable len is set, and the optimal prediction structure for the previous len frames is known, denoted as S. The remaining (i+1-len) frames are set as (i-len) B-frames (if (i-len) is greater than l, then skip calculating the cost of this path) and one P frame, i.e.,  and obtain an updated path Then the cost of this path is calculated. By traversing the len value from 0 to i and selecting the path with the minimum cost, it can obtain the optimal path (i.e., prediction structure) for the previous (i+1) frames. After the above processing, the frames in the first GOP are pushed out of the list F and the same number of new pictures are pushed into the tail of F. The prediction structure of all frames in F are reset. The last defined P-frame is used as φ in the new round of prediction structure decision epoch.

[0087] 3. Problems

[0088] The current design of prediction structure decision can be further improved.

[0089] Current prediction structure decision algorithms cannot adapt well to different video content, and the stability of the algorithm is poor. Content-aware prediction structure decision process can be used to improve the effectiveness of prediction structure decision. Furthermore, coding efficiency can be improved.

[0090] 4. Detailed Solutions

[0091] The detailed embodiments below should be considered as examples to explain general concepts. These embodiments should not be interpreted in a narrow way. Furthermore, these embodiments can be combined in any manner.

[0092] Hereinafter, a list of strategies for determining the prediction structure of the current GOP is presented. For instance, a strategy candidate may consist of a Fixed GOP Structure combined with a Trellis Dynamic Prediction Structure Decision strategy. To identify the appropriate strategy for prediction structure based on the video content, it needs to extract a feature vector by performing a pre-analysis of the current frame list. The feature vector may require pre-processing before being fed into a strategy prediction model. This model can be either a machine learning model or a deep-learning-based model. The selection of the strategy from the candidate list can be made based on the output of the trained model. It is important to note that the proposed methods can be applied to various video codecs, such as H. 264 / AVC, H. 265 / HEVC, H. 266 / VVC, or AV1.

[0093] 1. The feature vector is derived for the final inference (STRATEGY MODEL OUTPUT) through pre-analyzing the current frame list. This pre-analysis procedure is executed using M×M blocks as the basic unit, where M can assume values of 4, 8, or 16:

[0094] a. In one example, a comprehensive set of statistical features is obtained by con-ducting an analysis of the original frames contained within the current list.

[0095] i. Alternatively, to construct a feature vector, various common image sta-tistical characteristics of each picture within the search list are calculated. These characteristics may include metrics such as the mean value, vari-ance, and mean gradient value of pixels.

[0096] ii. Alternatively, to construct a feature vector, some inter features between these pictures within the search list are calculated. These characteristics may include metrics such as the mean consecutive frame error, the mu-tual information, etc.

[0097] b. In one example, a pre-defined prediction structure is employed to obtain frame-level costs, such as inter cost and intra cost, as well as other inter prediction related features, such as motion vector and intra block percentage, between in-dividual frames.

[0098] i. In one example, the pre-defined prediction structure takes the form of “IPPP…” .

[0099] ii. In one example, the pre-defined prediction structure can be a more so-phisticated structure, e.g. “IBBBP…. ” .

[0100] iii. The frame cost may be computed by the sum of absolute differences (SAD) of prediction block and original block.

[0101] (i) Alternatively, the frame cost may be calculated based on the sum of absolute transformed differences (SATD) of prediction block and original block.

[0102] (ii) Alternatively, the frame cost may be calculated based on the sum of square differences (SSD) of prediction block and original block.

[0103] (iii) Alternatively, the frame cost may be calculated based on weighted SAD / weighted SATD / weighted SSD of prediction block and original block.

[0104] c. The feature vector may undergo pre-processing before being fed into the model.

[0105] i. In one example, certain features need to be pruned.

[0106] (i) For example, it may have a high correlation with other features.

[0107] (ii) For example, the features hold low importance.

[0108] ii. In one example, some features require normalization so that they can all be restricted to a small interval or similar distribution.

[0109] (i) For example, the frame cost may need to be normalized to [0, 1] range.

[0110] iii. In one example, some features require type conversion.

[0111] (i) For example, categorical features may need to be converted into a one-hot vector representation.

[0112] iv. In one example, some features may need to be combined to create a new feature.

[0113] (i) In one example, a newly generated feature can be derived as a function of two or more features. For example, A new feature may be formed by dividing the inter frame cost by intra frame cost.

[0114] v. In one example, some features within the feature vector may be missing and require imputation to fill in the gaps.

[0115] 2. The feature vector is fed into a trained model, yielding the probabilities associated with each policy within the candidate list.

[0116] a. In one example, the strategy exhibiting the highest probability value is selected as the final strategy for prediction structure decision.

[0117] b. In one example, a soft decision-making is employed to determine the final strategy according to some criterions.

[0118] i. In one example, the maximum probability exceeds a certain threshold, a hard decision is made by selecting the strategy with the highest prob-ability.

[0119] ii. In one example, the maximum probability falls below a certain thresh-old, a pre-determined strategy is directly adopted without considering other probabilities.

[0120] iii. In one example, the difference between the maximum probability and the second maximum probability surpasses a certain threshold, choose a hard decision by selecting the strategy with the highest probability.

[0121] iv. In one example, the difference between the maximum probability and the second maximum probability is below a certain threshold, a pre-de-termined strategy is directly adopted without taking other probabilities into consideration.

[0122] v. In one example, the maximum probability (or the difference between the maximum probability and the second maximum probability) falls within a range defined by two thresholds, other factors (e.g., frame cost or CU cost) can be considered to determine the final decision strat-egy.

[0123] (i) In one example, when calculating frame or CU cost, different weights can be assigned to different prediction structures. For example, the weights can be assigned based on the complexity or computational cost of each structure, or the prediction proba-bilities. Simpler or lower-cost, or higher probability structures can be assigned higher weights, while more complex or higher-cost or lower-probability structures can be assigned lower weights.

[0124] 3. The labels of the training data can be determined using certain methods.

[0125] a. In one example, the sequences can be encoded using diverse strategies for pre-diction structure decision-making, and the most effective strategy can be se-lected as the label for the entire sequence. Additionally, each segment of the sequence can also be assigned the same label as the sequence.

[0126] b. In one example, the sequences can be partitioned into distinct groups, and each group can be encoded using different frame structure decision strategies. The optimal strategy within each group can be selected as the label for that particular group. Likewise, each segment of the sequence can be assigned the same label as its corresponding group.

[0127] General claims

[0128] 1. In above examples, the video unit may refer to the video unit may refer to colour com-ponent / sub-picture / slice / tile / coding tree unit (CTU)  / CTU row / groups of CTU / coding unit (CU)  / prediction unit (PU)  / transform unit (TU)  / coding tree block (CTB)  / coding block (CB)  / prediction block (PB)  / transform block (TB)  / ablock / sub-block of a block / sub-region within a block / any other region that contains more than one sample or pixel.

[0129] 2. Whether to and / or how to apply the disclosed methods above may be signalled at se-quence level / group of pictures level / picture level / slice level / tile group level, such as in sequence header / picture header / SPS / VPS / DPS / DCI / PPS / APS / slice header / tile group header.

[0130] 3. Whether and / or how to apply the above methods may depend on the following infor-mation:

[0131] a. A message signalled in the DPS / SPS / VPS / PPS / APS / picture header / slice header / tile group header / coding tree unit (CTU)  / Coding unit (CU)  / CTU row / group of CTUs / TU / PU block / Video coding unit;

[0132] b. Position of CU / PU / TU / block / Video coding unit;

[0133] c. Block dimension of current block and / or its neighbouring blocks;

[0134] d. Block shape of current block and / or its neighbouring blocks;

[0135] e. coded mode of a block, e.g., IBC or non-IBC inter mode or non-IBC subblock mode;

[0136] f. Indication of the colour format (such as 4: 2: 0, 4: 4: 4) ;

[0137] g. Coding tree structure;

[0138] h. Slice / tile group type and / or picture type;

[0139] i. Colour component (e.g., may be only applied on chroma components or luma component) ;

[0140] j. Temporal layer ID;

[0141] k. Profiles / Levels / Tiers of a standard.

[0142] 4. A syntax element disclosed above may be binarized as a flag, a fixed length code, an EG(x) code, a unary code, a truncated unary code, a truncated binary code, etc. It can be signed or unsigned.

[0143] 5. A syntax element disclosed above may be coded with at least one context model. Or it may be bypass coded.

[0144] 6. A syntax element disclosed above may be signaled in a conditional way.

[0145] a. The SE is signaled only if the corresponding function is applicable.

[0146] b. The SE is signaled only if the dimensions (width and / or height) of the block satisfy a condition.

[0147] 7. A syntax element disclosed above may be signaled at block level / sequence level / group of pictures level / picture level / slice level / tile group level, such as in coding structures of CTU / CU / TU / PU / CTB / CB / TB / PB, or sequence header / picture header / SPS / VPS / DPS / DCI / PPS / APS / slice header / tile group header.

[0148] 8. The proposed method (s) may be combined with another coding tool such as af-fine / MTS / LFNST / MMVD / MIP / ISP / CCLM / CCCM / SMVD / BDOF / DMVR / HMVP / Te mplate Matching / IBC / Palette / etc.

[0149] 9. The proposed method (s) may be excluded with another coding tool such as af-fine / MTS / LFNST / MMVD / MIP / ISP / CCLM / CCCM / SMVD / BDOF / DMVR / HMVP / Te mplate Matching / IBC / Palette / etc.

[0150] a. In one example, if the proposed method (s) is used, the excluded coding tool is disa-bled implicitly without signaling.

[0151] 10. In one example, if the excluded coding tool is used, the proposed method (s) is disabled implicitly without signaling.

[0152] 5. Embodiment

[0153] · Embodiment #1

[0154] It assumes Fixed GOP Structure strategy as strategy-1, and Trellis Dynamic Prediction Structure Decision strategy as strategy-2. The candidate consists of strategy-1 and strategy-2. Supposed that the maximum number of consecutive B-frames l is set to 3. The content-aware prediction structure decision is as follows (as depicted in Fig. 5) :

[0155] 1. If the maximum searching length of prediction structure decision N may be not greater than the maximum number of consecutive B-frames l, directly choose strategy-2 to de-cide the prediction structure and return.

[0156] 2. Ci (i-n+1, 0) , n≤i≤n+l are derived using fn-1 as the reference. In this proce-dure, 5 features of each frame can be collected:

[0157] a) The mean of the ratio of inter cost to intra cost, denotes as Where inter cost is the minimum value of the actual inter cost and intra cost.

[0158] b) The ratio of 8 × 8-CU inter blocks with non-zero motion vectors to the total inter blocks, denotes as

[0159] c) The mean of magnitudes of motion vectors, denotes as

[0160] d) The mean of the inter costs, denotes as Where inter cost is also the minimum value of the actual inter cost and intra cost.

[0161] e) The number of 8 x 8-CU intra blocks as a proportion of the total number of CUs within this frame, denotes as

[0162] The features of these 4 frames are concatenated together to a (4x5) dimensional feature vector F.

[0163] 3. Considering the significant correlation between adjacent frames, it can conduct a corre-lation analysis of the individual features of the above feature vector. The analysis shows that the correlation between adjacent frame features is also high. To this end, the follow-ing measures are used to reduce correlation:

[0164] a) For and delete one of them. A block is assigned as an intra block when the actual inter cost is greater than the intra cost. So, there are high correlation between the two features.

[0165] b) Constructing a new feature using two existing features and and delete The construction is as follows:

[0166] Compared with the distribution of new features is significantly different from other features. This improves the representation ability of the model.

[0167] c) Only preserve the characteristics every other frame, i.e. the new feature vector is as follows:

[0168] 4. The features are fed into the trained model and the output probability of strategy-2 is p, then the probability of class 1 is 1-p. It can use a soft decision method to determine which strategy to use. The final strategy is denoted as s and is determined as follows:

[0169] Here, t1 and t2 are preset threshold values.

[0170] a) If s=1, then strategy-1 is adopted.

[0171] b) If s=2, then strategy-2 is used.

[0172] c) When s=3, a compromise method is used, i.e., strategy-2 is still used, but modify the final frame cost of the B-frame as follows: c=α* (1-p) *c, where α is a pre-set weight.

[0173] The training process for the machine learning model is shown in Fig. 6:

[0174] 1. The training video sequences are encoded and the aforementioned characteristics of each video segment are collected.

[0175] 2. Obtaining the ground truth label for the characteristic of each video segment is challenging, since the input is only a video segment of length 4. However, the effectiveness of strategy-1 and strategy-2 is compared at the sequence level. If all segments in a sequence are di-rectly assigned to the same category as the results of the strategy for a sequence, the re-sulting labels may not be very accurate, which would affect the accuracy and performance of the model. To ensure the labels are accuracy and eliminate the influence of other factors, the following approach is utilized to determine the category of a video segment:

[0176] a) Determine the position of the video segment in the entire sequence.

[0177] b) Extract the GOP (Group of Pictures) the segment belongs to base on its position.

[0178] c) Encode the extracted video using strategy 1 and strategy 2 with the same encoding parameters used for feature extraction.

[0179] d) Determine the label of the current GOP according to the encoding performance.

[0180] i. If strategy-1 yields better results, the label of the current GOP is 0;

[0181] ii. If strategy-2 yields better results, the label of the current GOP is 1.

[0182] e) Use the label of the GOP as the label of the video segment.

[0183] 3. The collected features and label categories are matched based on the segment index, and the collected data is divided into training and validation sets in an 8: 2 ratio.

[0184] 4. Training the model using the obtained data and save the model with the highest accuracy on the validation set.

[0185] As used herein, the term “video unit” or “video block” may be a sequence, a picture, a slice, a tile, a brick, a subpicture, a coding tree unit (CTU)  / coding tree block (CTB) , a CTU / CTB row, one or multiple coding units (CUs)  / coding blocks (CBs) , one ore multiple CTUs / CTBs, one or multiple Virtual Pipeline Data Unit (VPDU) , a sub-region within a picture / slice / tile / brick. The term “reference line” may refer to a row and / or a column reconstructed samples adjacent to or non-adjacent to the current block, which is used to derive the intra prediction of current video unit via an interpolation filter along a certain direction, and the certain direction is determined by an intra prediction mode (e.g., conventional intra prediction with intra prediction modes) , or derive the intra prediction of current video unit via weighting the reference samples of the reference line with a matrix or vector (e.g., MIP) .

[0186] Fig. 7 illustrates a flowchart of a method 700 for video coding in accordance with embodiments of the present disclosure. The method 700 is implemented during a conversion between a video unit of a video and a bitstream of the video.

[0187] At block 710, for a conversion between a video unit of a video and a bitstream of the video, a feature vector is obtained by applying a pre-analysis to a list of frames associated with the video unit. For example, the video unit comprises M×M blocks and M is one of: 4, 8, or 16.

[0188] At block 720, a prediction structure is determined by feeding the feature vector to a model as an input. For example, the feature vector is derived for the final inference (i.e., output of the model) through pre-analyzing the current frame list (for example, GOP) . This pre-analysis procedure can be executed using M×M blocks as the basic unit, where M can assume values of 4, 8, or 16. The prediction structure may include information regarding reference relationship between frames in the list of frames.

[0189] At block 730, the conversion is performed based on the prediction structure. In  some embodiments, the conversion may include encoding the video unit into the bitstream. Alternatively, or in addition, the conversion may include decoding the video unit from the bitstream. In this way it can improve the effectiveness of prediction structure decision. Furthermore, coding efficiency can be improved.

[0190] In some embodiments, the feature vector comprises a set of comprehensive set of statistical features that is obtained by performing an analysis of original frames within the list of frames.

[0191] In some other embodiments, obtaining the feature vector includes: determining a set of common image statistical characteristics of each frame in the list of frames, where the feature vector comprises the set of common image statistical characteristics. For example, the set of common image statistical characteristics comprises at least one of: a mean value, a variance, or a mean gradient value of pixels in the frame. By way of example, to construct a feature vector, various common image statistical characteristics of each picture within the search list are calculated. These characteristics may include metrics such as the mean value, variance, and mean gradient value of pixels.

[0192] In some embodiments, obtaining the feature vector includes: determining a set of inter features between frames within the list of frames, wherein the feature vector comprises the set of inter features. For example, the set of inter features comprises at least one of” a mean consecutive frame error, or mutual information. to construct a feature vector, some inter features between these pictures within the search list are calculated. These characteristics may include metrics such as the mean consecutive frame error, the mutual information, etc.

[0193] In some embodiments, a predefined prediction structure is applied to the list of frames. For example, the predefined prediction structure is employed to obtain at least one of: a frame-level cost, or an inter prediction related feature between frames.

[0194] In some embodiments, the frame level cost comprises at least one of: an inter cost or an intra cost. Alternatively, the inter prediction related feature between frames comprises at least one of: a motion vector between frames, or an intra block percentage between frames.

[0195] In some embodiments, the predefined prediction structure is in a form of “I-frame, P-frame, P-frame, P-frame” . In some embodiments, the predefined prediction  structure is a more sophisticated structure. For example, the pre-defined prediction structure can be a more sophisticated structure, e.g. “IBBBP…. ” .

[0196] In some embodiments, the frame-level cost is determined by a sum of absolute differences (SAD) of prediction block and original block. In some other embodiments, the frame-level cost is determined based on a sum of absolute transformed differences (SATD) of prediction block and original block. In some further embodiments, the frame -level cost is determined based on a sum of square differences (SSD) of prediction block and original block. Alternatively, the frame-level cost is determined based on at least one of: a weighted SAD of prediction block and original block, a weighted SATD of prediction block and original block, or a weighted SSD of prediction block and original block.

[0197] In some embodiments, the feature vector is pre-processed before being fed into the model. In other words, the feature vector may undergo pre-processing before being fed into the model.

[0198] In some embodiments, a certain feature in the feature vector is pruned. For example, the certain feature has a high correlation with other features. In some embodiments, the certain feature is with low importance.

[0199] In some embodiments, a set of features requires normalization so that the set of features is restricted to a small interval or similar distribution. For example, the frame-level cost is normalized to [0, 1] range.

[0200] In some embodiments, a set of features requires type conversion. For example, a categorical feature is converted into a one-hot vector representation.

[0201] In some embodiments, a set of features is combined to generate a new feature. For example, the new feature is derived as a function of two or more features. In some embodiments, the new feature is formed by dividing the inter coast by an intra frame cost. In some embodiments, a set of features within the feature vector is missing and requires imputation to fill in gaps.

[0202] In some embodiments, an output of the model comprises probabilities associated with each prediction structure strategy in a list of candidate prediction structure strategies.

[0203] In some embodiments, a prediction structure strategy with a highest probability is selected as a final strategy for determining the prediction structure. In other words, the feature vector is fed into a trained model, yielding the probabilities associated with each  policy within the candidate list.

[0204] In some embodiments, a soft decision-making is employed to determine a final strategy for determining the prediction structure according to at least one criterion. The soft decision-making means making a decision not only based on the probability but also other factors.

[0205] In some embodiments, if a maximum probability among the probabilities exceeds a threshold, a prediction structure strategy with a highest probability is selected. In some other embodiments, if a maximum probability falls below a threshold, a predetermined prediction structure strategy is directly adopted without considering other probabilities.

[0206] In some embodiments, if a difference between a maximum probability and a second maximum probability among the probabilities exceeds a difference threshold, a prediction structure strategy with a highest probability is selected. In some other embodiments, if a difference between the maximum probability and the second maximum probability is below a difference threshold, a predetermined prediction structure strategy is directly adopted without taking other probabilities into consideration.

[0207] In some embodiments, if a maximum probability falls within a first range defined by two thresholds, a final strategy is determined based on other factors. Alternatively, if a difference between the maximum probability and the second maximum probability falls within a second range, the final strategy is determined based on other factors. In some embodiments, the other factors comprise at least one of: a frame-level cost, or a coding unit cost.

[0208] In some embodiments, when determining the frame or CU cost, different weights are assigned to different prediction structures. In some embodiments, the weights are assigned based on at least one of: a complexity of each prediction structure, a computational cost of each prediction structure, or a probability of each prediction structure. In some embodiments, a prediction structure with one of: a less complexity, a lower cost, or a higher probability is assigned with a higher weight than that of a prediction structure with a more complexity, a higher cost, or a lower probability.

[0209] In some embodiments, a labeling indicating an optimal prediction structure of training data for the model is determined based on an approach. In some embodiments, a  sequence of video units is encoded using diverse strategies for prediction structure decision-making. In some embodiments, a most effective strategy is selected as the label for an entire sequence. In some embodiments, each segment of the sequence is assigned the same label as the sequence.

[0210] In some embodiments, the sequence of video units is partitioned into distinct groups. Each group may be encoded using different frame structure decision strategies. In some embodiments, an optimal strategy within each group is selected as the label for that particular group. In some embodiments, each segment of the sequence is assigned the same label as its corresponding group.

[0211] In some embodiments, the video unit comprises at least one of: a color component, a prediction block (PB) , a transform block (TB) , a coding block (CB) , a prediction unit (PU) , a transform unit (TU) , a coding tree block (CTB) , a coding unit (CU) , a coding tree unit (CTU) , a CTU row, groups of CTU, a slice, a tile, a sub-picture, a block, a sub-region within a block, or a region containing more than one sample or pixel.

[0212] In some embodiments, an indication of whether to and / or how to determine the prediction structure by feeding the feature vector to the model is indicated at one of the followings: sequence level, group of pictures level, picture level, slice level, or tile group level.

[0213] In some embodiments, an indication of whether to and / or how to determine the prediction structure by feeding the feature vector to the model is indicated in one of the following: a sequence header, a picture header, a sequence parameter set (SPS) , a video parameter set (VPS) , a dependency parameter set (DPS) , a decoding capability information (DCI) , a picture parameter set (PPS) , an adaptation parameter sets (APS) , a slice header, or a tile group header.

[0214] In some embodiments, an indication of whether to and / or how to determine whether to and / or how to determine the prediction structure by feeding the feature vector to the model based on at least one of the followings: a message indicated in one of: a dependency parameter set (DPS) , a sequence parameter set (SPS) , a video parameter set (VPS) , a picture parameter set (PPS) , an adaptation parameter sets (APS) , picture header, slice header, tile group header, largest coding unit (LCU) , coding unit (CU) , LCU row, group of LCUs, TU, PU block, video coding unit, a position of one of: CU, PU, TU, block, video coding unit, a block dimension of current block and / or its neighbouring blocks, a  block shape of current block and / or its neighbouring blocks, a coded mode of the video unit, an indication of colour format, a coding tree structure a slice type, a tile group type, a picture type, a colour component, a temporal layer identity, profiles or levels or Tiers of a standard.

[0215] In some embodiments, a syntax element is binarized as one of: a flag, a fixed length code, an EG (x) code, a unary code, a truncated unary code, or a truncated binary code.

[0216] In some embodiments, the syntax element is signed or unsigned. In some embodiments, a syntax element disclosed is coded with at least one context model or is bypass coded. In some embodiments, a syntax element is indicated in a conditional way.

[0217] In some embodiments, the syntax element is indicated only if a corresponding function is applicable. Alternatively, the syntax element is indicated only if a dimension of the video unit satisfies a condition. In some embodiments, the dimension comprises at least one of: a height of the video unit, or a width of the video unit.

[0218] In some embodiments, a syntax element is indicated at at least one of: a block level, a sequence level, a group of pictures level, a picture level, a slice level, a tile group level, a sequence header, a picture header, a SPS, a VPS, a DPS, a DCI, a PPS, an APS, a slice header, or a tile group header. In some embodiments, a syntax element is indicated in a coding structure of one of: CTU, CU, TU, PU, CTB, CB, TB, or PB.

[0219] In some embodiments, determining the prediction structure by feeding the feature vector is combined with a coding tool. In some embodiments, the coding tool comprises at least one of: an affine, a multiple transform selection (MTS) , a low frequency non-separable transform (LFNST) , a merge mode with motion vector differences (MMVD) , a matrix weighted intra prediction (MIP) mode, an image signal processor (ISP) , a cross-component linear model (CCLM) , a convolutional cross-component model (CCCM) , a Symmetric motion vector difference (SMVD) , a bi-directional optical flow (BDOF) , a decoder side motion vector refinement (DMVR) , a history-based motion vector prediction (HMVP) , a Template Matching, an intra block copy (IBC) , or a Palette. That is, the proposed method (s) may be combined with another coding tool such as affine / MTS / LFNST / MMVD / MIP / ISP / CCLM / CCCM / SMVD / BDOF / DMVR / HMVP / Te mplate Matching / IBC / Palette / etc.

[0220] In some embodiments, determining the prediction structure by feeding the feature vector is excluded with another coding tool. In some embodiments, the coding tool comprises at least one of: an affine, a MTS, a LFNST, a MMVD, a MIP, an ISP, a CCLM, a CCCM, a SMVD, a BDOF, a DMVR, a HMVP, a Template Matching, an IBC, or a Palette. That is, the proposed method (s) may be excluded with another coding tool such as affine / MTS / LFNST / MMVD / MIP / ISP / CCLM / CCCM / SMVD / BDOF / DMVR / HMVP / Te mplate Matching / IBC / Palette / etc.

[0221] In some embodiments, if determining the prediction structure by feeding the feature vector is excluded with another coding tool is applied, the excluded coding tool is disabled implicitly without signaling. In some embodiments, if the excluded coding tool is used determining the prediction structure by feeding the feature vector is excluded with another coding tool is disabled implicitly without signaling.

[0222] According to further embodiments of the present disclosure, a non-transitory computer-readable recording medium is provided. The non-transitory computer-readable recording medium stores a bitstream of a video which is generated by a method performed by an apparatus for video coding. The method comprises: obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video; determining a prediction structure by feeding the feature vector to a model as an input; and generating a bitstream of the video unit based on the prediction structure.

[0223] According to still further embodiments of the present disclosure, a method for storing bitstream of a video is provided. The method comprises: obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video; determining a prediction structure by feeding the feature vector to a model as an input; generating a bitstream of the video unit based on the prediction structure; and storing the bitstream in a non-transitory computer-readable recording medium.

[0224] Implementations of the present disclosure can be described in view of the following clauses, the features of which can be combined in any reasonable manner.

[0225] Clause 1. A method of video processing, comprising: obtaining, for a conversion between a video unit of a video and a bitstream of the video, a feature vector by applying a pre-analysis to a list of frames associated with the video unit; determining a prediction structure by feeding the feature vector to a model as an input; and performing the  conversion based on the prediction structure.

[0226] Clause 2. The method of clause 1, wherein the video unit comprises M×M blocks and M is one of: 4, 8, or 16.

[0227] Clause 3. The method of clause 1, wherein the feature vector comprises a set of comprehensive set of statistical features that is obtained by performing an analysis of original frames within the list of frames.

[0228] Clause 4. The method of clause 1, wherein obtaining the feature vector comprises: determining a set of common image statistical characteristics of each frame in the list of frames, wherein the feature vector comprises the set of common image statistical characteristics.

[0229] Clause 5. The method of clause 4, wherein the set of common image statistical characteristics comprises at least one of: a mean value, a variance, or a mean gradient value of pixels in the frame.

[0230] Clause 6. The method of clause 1, wherein obtaining the feature vector comprises: determining a set of inter features between frames within the list of frames, wherein the feature vector comprises the set of inter features.

[0231] Clause 7. The method of clause 6, wherein the set of inter features comprises at least one of” a mean consecutive frame error, or mutual information.

[0232] Clause 8. The method of clause 1, wherein a predefined prediction structure is applied to the list of frames.

[0233] Clause 9. The method of clause 8, wherein the predefined prediction structure is employed to obtain at least one of: a frame-level cost, or an inter prediction related feature between frames.

[0234] Clause 10. The method of clause 9, wherein the frame level cost comprises at least one of: an inter cost or an intra cost, or wherein the inter prediction related feature between frames comprises at least one of: a motion vector between frames, or an intra block percentage between frames.

[0235] Clause 11. The method of any of clauses 8-10, wherein the predefined prediction structure is in a form of “I-frame, P-frame, P-frame, P-frame” .

[0236] Clause 12. The method of any of clauses 8-10, wherein the predefined prediction structure is a more sophisticated structure.

[0237] Clause 13. The method of any of clauses 8-10, wherein the frame-level cost is determined by a sum of absolute differences (SAD) of prediction block and original block.

[0238] Clause 14. The method of any of clauses 8-10, wherein the frame-level cost is determined based on a sum of absolute transformed differences (SATD) of prediction block and original block.

[0239] Clause 15. The method of any of clauses 8-10, wherein the frame-level cost is determined based on a sum of square differences (SSD) of prediction block and original block.

[0240] Clause 16. The method of any of clauses 8-10, wherein the frame-level cost is determined based on at least one of: a weighted SAD of prediction block and original block, a weighted SATD of prediction block and original block, or a weighted SSD of prediction block and original block.

[0241] Clause 17. The method of clause 1, wherein the feature vector is pre-processed before being fed into the model.

[0242] Clause 18. The method of clause 1, wherein a certain feature in the feature vector is pruned.

[0243] Clause 19. The method of clause 18, wherein the certain feature has a high correlation with other features.

[0244] Clause 20. The method of clause 18, wherein the certain feature is with low importance.

[0245] Clause 21. The method of clause 18, wherein a set of features requires normalization so that the set of features is restricted to a small interval or similar distribution.

[0246] Clause 22. The method of clause 21, wherein the frame-level cost is normalized to [0, 1] range.

[0247] Clause 23. The method of clause 18, wherein a set of features requires type conversion.

[0248] Clause 24. The method of clause 23, wherein a categorical feature is converted into a one-hot vector representation.

[0249] Clause 25. The method of clause 18, wherein a set of features is combined to generate a new feature.

[0250] Clause 26. The method of clause 25, wherein the new feature is derived as a function of two or more features.

[0251] Clause 27. The method of clause 26, wherein the new feature is formed by dividing the inter coast by an intra frame cost.

[0252] Clause 28. The method of clause 18, wherein a set of features within the feature vector is missing and requires imputation to fill in gaps.

[0253] Clause 29. The method of clause 1, wherein an output of the model comprises probabilities associated with each prediction structure strategy in a list of candidate prediction structure strategies.

[0254] Clause 30. The method of clause 29, wherein a prediction structure strategy with a highest probability is selected as a final strategy for determining the prediction structure.

[0255] Clause 31. The method of clause 29, wherein a soft decision-making is employed to determine a final strategy for determining the prediction structure according to at least one criteria.

[0256] Clause 32. The method of clause 31, wherein if a maximum probability among the probabilities exceeds a threshold, a prediction structure strategy with a highest probability is selected.

[0257] Clause 33. The method of clause 31, wherein if a maximum probability falls below a threshold, a predetermined prediction structure strategy is directly adopted without considering other probabilities.

[0258] Clause 34. The method of clause 31, wherein if a difference between a maximum probability and a second maximum probability among the probabilities exceeds a difference threshold, a prediction structure strategy with a highest probability is selected.

[0259] Clause 35. The method of clause 31, wherein if a difference between the maximum probability and the second maximum probability is below a difference threshold, a predetermined prediction structure strategy is directly adopted without taking  other probabilities into consideration.

[0260] Clause 36. The method of clause 31, wherein if a maximum probability falls within a first range defined by two thresholds, a final strategy is determined based on other factors, or wherein if a difference between the maximum probability and the second maximum probability falls within a second range, the final strategy is determined based on other factors.

[0261] Clause 37. The method of clause 36, wherein the other factors comprise at least one of: a frame-level cost, or a coding unit cost.

[0262] Clause 38. The method of clause 36 or 37, wherein when determining the frame or CU cost, different weights are assigned to different prediction structures.

[0263] Clause 39. The method of clause 38, wherein the weights are assigned based on at least one of: a complexity of each prediction structure, a computational cost of each prediction structure, or a probability of each prediction structure.

[0264] Clause 40. The method of clause 39, wherein a prediction structure with one of: a less complexity, a lower cost, or a higher probability is assigned with a higher weight than that of a prediction structure with a more complexity, a higher cost, or a lower probability.

[0265] Clause 41. The method of clause 1, wherein a labeling indicating an optimal prediction structure of training data for the model is determined based on an approach.

[0266] Clause 42. The method of clause 41, wherein a sequence of video units is encoded using diverse strategies for prediction structure decision-making.

[0267] Clause 43. The method of clause 42, wherein a most effective strategy is selected as the label for an entire sequence.

[0268] Clause 44. The method of clause 42, wherein each segment of the sequence is assigned the same label as the sequence.

[0269] Clause 45. The method of clause 42, wherein the sequence of video units is partitioned into distinct groups, and each group is encoded using different frame structure decision strategies.

[0270] Clause 46. The method of clause 45, wherein an optimal strategy within each group is selected as the label for that particular group.

[0271] Clause 47. The method of clause 46, wherein each segment of the sequence is assigned the same label as its corresponding group.

[0272] Clause 48. The method of any of clauses 1-47, wherein the video unit comprises at least one of: a color component, a prediction block (PB) , a transform block (TB) , a coding block (CB) , a prediction unit (PU) , a transform unit (TU) , a coding tree block (CTB) , a coding unit (CU) , a coding tree unit (CTU) , a CTU row, groups of CTU, a slice, a tile, a sub-picture, a block, a sub-region within a block, or a region containing more than one sample or pixel.

[0273] Clause 49. The method of any of clauses 1-47, wherein an indication of whether to and / or how to determine the prediction structure by feeding the feature vector to the model is indicated at one of the followings: sequence level, group of pictures level, picture level, slice level, or tile group level.

[0274] Clause 50. The method of any of clauses 1-47, wherein an indication of whether to and / or how to determine the prediction structure by feeding the feature vector to the model is indicated in one of the following: a sequence header, a picture header, a sequence parameter set (SPS) , a video parameter set (VPS) , a dependency parameter set (DPS) , a decoding capability information (DCI) , a picture parameter set (PPS) , an adaptation parameter sets (APS) , a slice header, or a tile group header.

[0275] Clause 51. The method of any of clauses 1-47, wherein an indication of whether to and / or how to determine whether to and / or how to determine the prediction structure by feeding the feature vector to the model based on at least one of the followings: a message indicated in one of: a dependency parameter set (DPS) , a sequence parameter set (SPS) , a video parameter set (VPS) , a picture parameter set (PPS) , an adaptation parameter sets (APS) , picture header, slice header, tile group header, largest coding unit (LCU) , coding unit (CU) , LCU row, group of LCUs, TU, PU block, video coding unit, a position of one of: CU, PU, TU, block, video coding unit, a block dimension of current block and / or its neighbouring blocks, a block shape of current block and / or its neighbouring blocks, a coded mode of the video unit, an indication of colour format, a coding tree structure a slice type, a tile group type, a picture type, a colour component, a temporal layer identity, profiles or levels or Tiers of a standard.

[0276] Clause 52. The method of any of clauses 1-47, wherein a syntax element is binarized as one of: a flag, a fixed length code, an EG (x) code, a unary code, a truncated  unary code, or a truncated binary code.

[0277] Clause 53. The method of clause 52, wherein the syntax element is signed or unsigned.

[0278] Clause 54. The method of any of clauses 1-47, wherein a syntax element disclosed is coded with at least one context model or is bypass coded.

[0279] Clause 55. The method of any of clauses 1-47, wherein a syntax element is indicated in a conditional way.

[0280] Clause 56. The method of clause 55, wherein the syntax element is indicated only if a corresponding function is applicable, or wherein the syntax element is indicated only if a dimension of the video unit satisfies a condition.

[0281] Clause 57. The method of clause 56, wherein the dimension comprises at least one of: a height of the video unit, or a width of the video unit.

[0282] Clause 58. The method of any of clauses 1-47, wherein a syntax element is indicated at at least one of: a block level, a sequence level, a group of pictures level, a picture level, a slice level, a tile group level, a sequence header, a picture header, a SPS, a VPS, a DPS, a DCI, a PPS, an APS, a slice header, or a tile group header.

[0283] Clause 59. The method of any of clauses 1-47, wherein a syntax element is indicated in a coding structure of one of: CTU, CU, TU, PU, CTB, CB, TB, or PB.

[0284] Clause 60. The method of any of clauses 1-47, wherein determining the prediction structure by feeding the feature vector is combined with a coding tool.

[0285] Clause 61. The method of clause 60, wherein the coding tool comprises at least one of: an affine, a multiple transform selection (MTS) , a low frequency non-separable transform (LFNST) , a merge mode with motion vector differences (MMVD) , a matrix weighted intra prediction (MIP) mode, an image signal processor (ISP) , a cross-component linear model (CCLM) , a convolutional cross-component model (CCCM) , a Symmetric motion vector difference (SMVD) , a bi-directional optical flow (BDOF) , a decoder side motion vector refinement (DMVR) , a history-based motion vector prediction (HMVP) , a Template Matching, an intra block copy (IBC) , or a Palette.

[0286] Clause 62. The method of any of clauses 1-47, wherein determining the prediction structure by feeding the feature vector is excluded with another coding tool.

[0287] Clause 63. The method of clause 62, wherein the coding tool comprises at least one of: an affine, a MTS, a LFNST, a MMVD, a MIP, an ISP, a CCLM, a CCCM, a SMVD, a BDOF, a DMVR, a HMVP, a Template Matching, an IBC, or a Palette.

[0288] Clause 64. The method of clause 62 or 63, wherein if determining the prediction structure by feeding the feature vector is excluded with another coding tool is applied, the excluded coding tool is disabled implicitly without signaling.

[0289] Clause 65. The method of clause 62 or 63, wherein if the excluded coding tool is used determining the prediction structure by feeding the feature vector is excluded with another coding tool is disabled implicitly without signaling.

[0290] Clause 66. The method of any of clauses 1-65, wherein the conversion includes encoding the video unit into the bitstream.

[0291] Clause 67. The method of any of clauses 1-65, wherein the conversion includes decoding the video unit from the bitstream.

[0292] Clause 68. An apparatus for video processing comprising a processor and a non-transitory memory with instructions thereon, wherein the instructions upon execution by the processor, cause the processor to perform a method in accordance with any of clauses 1-67.

[0293] Clause 69. A non-transitory computer-readable storage medium storing instructions that cause a processor to perform a method in accordance with any of clauses 1-67.

[0294] Clause 70. A non-transitory computer-readable recording medium storing a bitstream of a video which is generated by a method performed by an apparatus for video processing, wherein the method comprises: obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video; determining a prediction structure by feeding the feature vector to a model as an input; and generating a bitstream of the video unit based on the prediction structure.

[0295] Clause 71. A method for storing a bitstream of a video, comprising: obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video; determining a prediction structure by feeding the feature vector to a model as an input; generating a bitstream of the video unit based on the prediction structure; and storing the bitstream in a non-transitory computer-readable recording medium.

[0296] Example Device

[0297] Fig. 8 illustrates a block diagram of a computing device 800 in which various embodiments of the present disclosure can be implemented. The computing device 800 may be implemented as or included in the source device 110 (or the video encoder 114 or 200) or the destination device 120 (or the video decoder 124 or 300) .

[0298] It would be appreciated that the computing device 800 shown in Fig. 8 is merely for purpose of illustration, without suggesting any limitation to the functions and scopes of the embodiments of the present disclosure in any manner.

[0299] As shown in Fig. 8, the computing device 800 includes a general-purpose computing device 800. The computing device 800 may at least comprise one or more processors or processing units 810, a memory 820, a storage unit 830, one or more communication units 840, one or more input devices 850, and one or more output devices 860.

[0300] In some embodiments, the computing device 800 may be implemented as any user terminal or server terminal having the computing capability. The server terminal may be a server, a large-scale computing device or the like that is provided by a service provider. The user terminal may for example be any type of mobile terminal, fixed terminal, or portable terminal, including a mobile phone, station, unit, device, multimedia computer, multimedia tablet, Internet node, communicator, desktop computer, laptop computer, notebook computer, netbook computer, tablet computer, personal communication system (PCS) device, personal navigation device, personal digital assistant (PDA) , audio / video player, digital camera / video camera, positioning device, television receiver, radio broadcast receiver, E-book device, gaming device, or any combination thereof, including the accessories and peripherals of these devices, or any combination thereof. It would be contemplated that the computing device 800 can support any type of interface to a user (such as “wearable” circuitry and the like) .

[0301] The processing unit 810 may be a physical or virtual processor and can implement various processes based on programs stored in the memory 820. In a multi-processor system, multiple processing units execute computer executable instructions in parallel so as to improve the parallel processing capability of the computing device 800. The processing unit 810 may also be referred to as a central processing unit (CPU) , a microprocessor, a controller or a microcontroller.

[0302] The computing device 800 typically includes various computer storage medium. Such medium can be any medium accessible by the computing device 800, including, but not limited to, volatile and non-volatile medium, or detachable and non-detachable medium. The memory 820 can be a volatile memory (for example, a register, cache, Random Access Memory (RAM) ) , a non-volatile memory (such as a Read-Only Memory (ROM) , Electrically Erasable Programmable Read-Only Memory (EEPROM) , or a flash memory) , or any combination thereof. The storage unit 830 may be any detachable or non-detachable medium and may include a machine-readable medium such as a memory, flash memory drive, magnetic disk or another other media, which can be used for storing information and / or data and can be accessed in the computing device 800.

[0303] The computing device 800 may further include additional detachable / non-detachable, volatile / non-volatile memory medium. Although not shown in Fig. 8, it is possible to provide a magnetic disk drive for reading from and / or writing into a detachable and non-volatile magnetic disk and an optical disk drive for reading from and / or writing into a detachable non-volatile optical disk. In such cases, each drive may be connected to a bus (not shown) via one or more data medium interfaces.

[0304] The communication unit 840 communicates with a further computing device via the communication medium. In addition, the functions of the components in the computing device 800 can be implemented by a single computing cluster or multiple computing machines that can communicate via communication connections. Therefore, the computing device 800 can operate in a networked environment using a logical connection with one or more other servers, networked personal computers (PCs) or further general network nodes.

[0305] The input device 850 may be one or more of a variety of input devices, such as a mouse, keyboard, tracking ball, voice-input device, and the like. The output device 860 may be one or more of a variety of output devices, such as a display, loudspeaker, printer, and the like. By means of the communication unit 840, the computing device 800 can further communicate with one or more external devices (not shown) such as the storage devices and display device, with one or more devices enabling the user to interact with the computing device 800, or any devices (such as a network card, a modem and the like) enabling the computing device 800 to communicate with one or more other computing devices, if required. Such communication can be performed via input / output (I / O) interfaces (not shown) .

[0306] In some embodiments, instead of being integrated in a single device, some or all components of the computing device 800 may also be arranged in cloud computing architecture. In the cloud computing architecture, the components may be provided remotely and work together to implement the functionalities described in the present disclosure. In some embodiments, cloud computing provides computing, software, data access and storage service, which will not require end users to be aware of the physical locations or configurations of the systems or hardware providing these services. In various embodiments, the cloud computing provides the services via a wide area network (such as Internet) using suitable protocols. For example, a cloud computing provider provides applications over the wide area network, which can be accessed through a web browser or any other computing components. The software or components of the cloud computing architecture and corresponding data may be stored on a server at a remote position. The computing resources in the cloud computing environment may be merged or distributed at locations in a remote data center. Cloud computing infrastructures may provide the services through a shared data center, though they behave as a single access point for the users. Therefore, the cloud computing architectures may be used to provide the components and functionalities described herein from a service provider at a remote location. Alternatively, they may be provided from a conventional server or installed directly or otherwise on a client device.

[0307] The computing device 800 may be used to implement video encoding / decoding in embodiments of the present disclosure. The memory 820 may include one or more video coding modules 825 having one or more program instructions. These modules are accessible and executable by the processing unit 810 to perform the functionalities of the various embodiments described herein.

[0308] In the example embodiments of performing video encoding, the input device 850 may receive video data as an input 870 to be encoded. The video data may be processed, for example, by the video coding module 825, to generate an encoded bitstream. The encoded bitstream may be provided via the output device 860 as an output 880.

[0309] In the example embodiments of performing video decoding, the input device 850 may receive an encoded bitstream as the input 870. The encoded bitstream may be processed, for example, by the video coding module 825, to generate decoded video data. The decoded video data may be provided via the output device 860 as the output 880.

[0310] While this disclosure has been particularly shown and described with references to preferred embodiments thereof, it will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the present application as defined by the appended claims. Such variations are intended to be covered by the scope of this present application. As such, the foregoing description of embodiments of the present application is not intended to be limiting.

Claims

1.A method of video processing, comprising:obtaining, for a conversion between a video unit of a video and a bitstream of the video, a feature vector by applying a pre-analysis to a list of frames associated with the video unit;determining a prediction structure by feeding the feature vector to a model as an input; andperforming the conversion based on the prediction structure.2.The method of claim 1, wherein the video unit comprises M×M blocks and M is one of: 4, 8, or 16.3.The method of claim 1, wherein the feature vector comprises a set of comprehensive set of statistical features that is obtained by performing an analysis of original frames within the list of frames.4.The method of claim 1, wherein obtaining the feature vector comprises:determining a set of common image statistical characteristics of each frame in the list of frames, wherein the feature vector comprises the set of common image statistical characteristics.5.The method of claim 4, wherein the set of common image statistical characteristics comprises at least one of:a mean value,a variance, ora mean gradient value of pixels in the frame.6.The method of claim 1, wherein obtaining the feature vector comprises:determining a set of inter features between frames within the list of frames, wherein the feature vector comprises the set of inter features.7.The method of claim 6, wherein the set of inter features comprises at least one of” a mean consecutive frame error, ormutual information.8.The method of claim 1, wherein a predefined prediction structure is applied to the list of frames.9.The method of claim 8, wherein the predefined prediction structure is employed to obtain at least one of:a frame-level cost, oran inter prediction related feature between frames.10.The method of claim 9, wherein the frame level cost comprises at least one of: an inter cost or an intra cost, orwherein the inter prediction related feature between frames comprises at least one of:a motion vector between frames, oran intra block percentage between frames.11.The method of any of claims 8-10, wherein the predefined prediction structure is in a form of “I-frame, P-frame, P-frame, P-frame” .12.The method of any of claims 8-10, wherein the predefined prediction structure is a more sophisticated structure.13.The method of any of claims 8-10, wherein the frame-level cost is determined by a sum of absolute differences (SAD) of prediction block and original block.14.The method of any of claims 8-10, wherein the frame-level cost is determined based on a sum of absolute transformed differences (SATD) of prediction block and original block.15.The method of any of claims 8-10, wherein the frame-level cost is determined based on a sum of square differences (SSD) of prediction block and original block.16.The method of any of claims 8-10, wherein the frame-level cost is determined based on at least one of:a weighted SAD of prediction block and original block,a weighted SATD of prediction block and original block, ora weighted SSD of prediction block and original block.17.The method of claim 1, wherein the feature vector is pre-processed before being fed into the model.18.The method of claim 1, wherein a certain feature in the feature vector is pruned.19.The method of claim 18, wherein the certain feature has a high correlation with other features.20.The method of claim 18, wherein the certain feature is with low importance.21.The method of claim 18, wherein a set of features requires normalization so that the set of features is restricted to a small interval or similar distribution.22.The method of claim 21, wherein the frame-level cost is normalized to [0, 1] range.23.The method of claim 18, wherein a set of features requires type conversion.24.The method of claim 23, wherein a categorical feature is converted into a one-hot vector representation.25.The method of claim 18, wherein a set of features is combined to generate a new feature.26.The method of claim 25, wherein the new feature is derived as a function of two or more features.27.The method of claim 26, wherein the new feature is formed by dividing the inter coast by an intra frame cost.28.The method of claim 18, wherein a set of features within the feature vector is missing and requires imputation to fill in gaps.29.The method of claim 1, wherein an output of the model comprises probabilities associated with each prediction structure strategy in a list of candidate prediction structure strategies.30.The method of claim 29, wherein a prediction structure strategy with a highest probability is selected as a final strategy for determining the prediction structure.31.The method of claim 29, wherein a soft decision-making is employed to determine a final strategy for determining the prediction structure according to at least one criteria.32.The method of claim 31, wherein if a maximum probability among the probabilities exceeds a threshold, a prediction structure strategy with a highest probability is selected.33.The method of claim 31, wherein if a maximum probability falls below a threshold, a predetermined prediction structure strategy is directly adopted without considering other probabilities.34.The method of claim 31, wherein if a difference between a maximum probability and a second maximum probability among the probabilities exceeds a difference threshold, a prediction structure strategy with a highest probability is selected.35.The method of claim 31, wherein if a difference between the maximum probability and the second maximum probability is below a difference threshold, a predetermined prediction structure strategy is directly adopted without taking other probabilities into consideration.36.The method of claim 31, wherein if a maximum probability falls within a first range defined by two thresholds, a final strategy is determined based on other factors, orwherein if a difference between the maximum probability and the second maximum probability falls within a second range, the final strategy is determined based on other factors.37.The method of claim 36, wherein the other factors comprise at least one of:a frame-level cost, ora coding unit cost.38.The method of claim 36 or 37, wherein when determining the frame or CU cost, different weights are assigned to different prediction structures.39.The method of claim 38, wherein the weights are assigned based on at least one of:a complexity of each prediction structure,a computational cost of each prediction structure, ora probability of each prediction structure.40.The method of claim 39, wherein a prediction structure with one of: a less complexity, a lower cost, or a higher probability is assigned with a higher weight than that of a prediction structure with a more complexity, a higher cost, or a lower probability.41.The method of claim 1, wherein a labeling indicating an optimal prediction structure of training data for the model is determined based on an approach.42.The method of claim 41, wherein a sequence of video units is encoded using diverse strategies for prediction structure decision-making.43.The method of claim 42, wherein a most effective strategy is selected as the label for an entire sequence.44.The method of claim 42, wherein each segment of the sequence is assigned the same label as the sequence.45.The method of claim 42, wherein the sequence of video units is partitioned into distinct groups, andeach group is encoded using different frame structure decision strategies.46.The method of claim 45, wherein an optimal strategy within each group is selected as the label for that particular group.47.The method of claim 46, wherein each segment of the sequence is assigned the same label as its corresponding group.48.The method of any of claims 1-47, wherein the video unit comprises at least one of:a color component,a prediction block (PB) ,a transform block (TB) ,a coding block (CB) ,a prediction unit (PU) ,a transform unit (TU) ,a coding tree block (CTB) ,a coding unit (CU) ,a coding tree unit (CTU) ,a CTU row,groups of CTU,a slice,a tile,a sub-picture,a block,a sub-region within a block, ora region containing more than one sample or pixel.49.The method of any of claims 1-47, wherein an indication of whether to and / or how to determine the prediction structure by feeding the feature vector to the model is indicated at one of the followings:sequence level,group of pictures level,picture level,slice level, ortile group level.50.The method of any of claims 1-47, wherein an indication of whether to and / or how to determine the prediction structure by feeding the feature vector to the model is indicated in one of the following:a sequence header,a picture header,a sequence parameter set (SPS) ,a video parameter set (VPS) ,a dependency parameter set (DPS) ,a decoding capability information (DCI) ,a picture parameter set (PPS) ,an adaptation parameter sets (APS) ,a slice header, ora tile group header.51.The method of any of claims 1-47, wherein an indication of whether to and / or how to determine whether to and / or how to determine the prediction structure by feeding the feature vector to the model based on at least one of the followings:a message indicated in one of: a dependency parameter set (DPS) , a sequence parameter set (SPS) , a video parameter set (VPS) , a picture parameter set (PPS) , an adaptation parameter sets (APS) ,picture header, slice header, tile group header, largest coding unit (LCU) , coding unit (CU) , LCU row, group of LCUs, TU, PU block, video coding unit,a position of one of: CU, PU, TU, block, video coding unit,a block dimension of current block and / or its neighbouring blocks,a block shape of current block and / or its neighbouring blocks,a coded mode of the video unit,an indication of colour format,a coding tree structurea slice type,a tile group type,a picture type,a colour component,a temporal layer identity,profiles or levels or Tiers of a standard.52.The method of any of claims 1-47, wherein a syntax element is binarized as one of:a flag,a fixed length code,an EG (x) code,a unary code,a truncated unary code, ora truncated binary code.53.The method of claim 52, wherein the syntax element is signed or unsigned.54.The method of any of claims 1-47, wherein a syntax element disclosed is coded with at least one context model or is bypass coded.55.The method of any of claims 1-47, wherein a syntax element is indicated in a conditional way.56.The method of claim 55, wherein the syntax element is indicated only if a corresponding function is applicable, orwherein the syntax element is indicated only if a dimension of the video unit satisfies a condition.57.The method of claim 56, wherein the dimension comprises at least one of:a height of the video unit, ora width of the video unit.58.The method of any of claims 1-47, wherein a syntax element is indicated at at least one of:a block level,a sequence level,a group of pictures level,a picture level,a slice level,a tile group level,a sequence header,a picture header,a SPS,a VPS,a DPS,a DCI,a PPS,an APS,a slice header, ora tile group header.59.The method of any of claims 1-47, wherein a syntax element is indicated in a coding structure of one of: CTU, CU, TU, PU, CTB, CB, TB, or PB.60.The method of any of claims 1-47, wherein determining the prediction structure by feeding the feature vector is combined with a coding tool.61.The method of claim 60, wherein the coding tool comprises at least one of:an affine,a multiple transform selection (MTS) ,a low frequency non-separable transform (LFNST) ,a merge mode with motion vector differences (MMVD) ,a matrix weighted intra prediction (MIP) mode,an image signal processor (ISP) ,a cross-component linear model (CCLM) ,a convolutional cross-component model (CCCM) ,a Symmetric motion vector difference (SMVD) ,a bi-directional optical flow (BDOF) ,a decoder side motion vector refinement (DMVR) ,a history-based motion vector prediction (HMVP) ,a Template Matching,an intra block copy (IBC) , ora Palette.62.The method of any of claims 1-47, wherein determining the prediction structure by feeding the feature vector is excluded with another coding tool.63.The method of claim 62, wherein the coding tool comprises at least one of:an affine,a MTS,a LFNST,a MMVD,a MIP,an ISP,a CCLM,a CCCM,a SMVD,a BDOF,a DMVR,a HMVP,a Template Matching,an IBC, ora Palette.64.The method of claim 62 or 63, wherein if determining the prediction structure by feeding the feature vector is excluded with another coding tool is applied, the excluded coding tool is disabled implicitly without signaling.65.The method of claim 62 or 63, wherein if the excluded coding tool is used determining the prediction structure by feeding the feature vector is excluded with another coding tool is disabled implicitly without signaling.66.The method of any of claims 1-65, wherein the conversion includes encoding the video unit into the bitstream.67.The method of any of claims 1-65, wherein the conversion includes decoding the video unit from the bitstream.68.An apparatus for video processing comprising a processor and a non-transitory memory with instructions thereon, wherein the instructions upon execution by the processor, cause the processor to perform a method in accordance with any of claims 1-67.69.A non-transitory computer-readable storage medium storing instructions that cause a processor to perform a method in accordance with any of claims 1-67.70.A non-transitory computer-readable recording medium storing a bitstream of a video which is generated by a method performed by an apparatus for video processing, wherein the method comprises:obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video;determining a prediction structure by feeding the feature vector to a model as an input; andgenerating a bitstream of the video unit based on the prediction structure.71.A method for storing a bitstream of a video, comprising:obtaining a feature vector by applying a pre-analysis to a list of frames associated with a video unit of the video;determining a prediction structure by feeding the feature vector to a model as an input;generating a bitstream of the video unit based on the prediction structure; andstoring the bitstream in a non-transitory computer-readable recording medium.

Images