Methods and apparatus of intra merge mode with similarity check in video coding system

Abstract

A method and apparatus of deriving a merge list with more diversity are disclosed. According to the method, input data associated with a current block is received, wherein the input data comprises pixel data to be encoded at an encoder side or coded data associated with the current block to be decoded at a decoder side. A to-be-included candidate and a current intra merge candidate list are determined. Whether to insert the-be-included candidate into the current intra merge candidate list to generate an updated intra merge candidate list is determined by checking similarity between the to-be-included candidate and existing candidates in the current intra merge candidate list, wherein the similarity comprises mode type similarity. The current block is encoded or decoded by using coding information comprising the updated intra merge candidate list.

Description

METHODS AND APPARATUS OF INTRA MERGE MODE WITH SIMILARITY CHECK IN VIDEO CODING SYSTEMCROSS REFERENCE TO RELATED APPLICATIONS

[0001] The present invention is a non-Provisional Application of and claims priority to U.S. Provisional Patent Application No. 63 / 636,976, filed on April 22, 2024. The U.S. Provisional Patent Application is hereby incorporated by reference in its entirety.FIELD OF THE INVENTION

[0002] The present invention relates to merge mode for video coding systems. In particular, the present invention relates to increasing diversity of candidates in a merge list by checking similarity between a to-be-included candidate and existing candidates in the merge list. BACKGROUND AND RELATED ART

[0003] Versatile video coding (VVC) is the latest international video coding standard developed by the Joint Video Experts Team (JVET) of the ITU-T Video Coding Experts Group (VCEG) and the ISO / IEC Moving Picture Experts Group (MPEG) . The standard has been published as an ISO standard: ISO / IEC 23090-3: 2021, Information technology -Coded representation of immersive media -Part 3: Versatile video coding, published Feb. 2021. VVC is developed based on its predecessor HEVC (High Efficiency Video Coding) by adding more coding tools to improve coding efficiency and also to handle various types of video sources including 3-dimensional (3D) video signals.

[0004] Fig. 1A illustrates an exemplary adaptive Inter / Intra video encoding system incorporating loop processing. For Intra Prediction, the prediction data is derived based on previously coded video data in the current picture. For Inter Prediction 112, Motion Estimation (ME) is performed at the encoder side and Motion Compensation (MC) is performed based on the result of ME to provide prediction data derived from other picture (s) and motion data. Switch 114 selects Intra Prediction 110 or Inter-Prediction 112 and the selected prediction data is supplied to Adder 116 to form prediction errors, also called residues. The prediction error is then processed by Transform (T) 118 followed by Quantization (Q) 120. The transformed and quantized residues are then coded by Entropy Encoder 122 to be included in a video bitstream corresponding to the compressed video data. The bitstream associated with the transform coefficients is then packed with side information such as motion and coding modes associated with Intra prediction and Inter prediction, and other information such as parameters associated with loop filters applied to underlying image area. The side information associated with Intra Prediction 110, Inter prediction 112 and in-loop filter 130, is provided to Entropy Encoder 122 as shown in Fig. 1A. When an Inter-prediction mode is used, a reference picture or pictures have to be reconstructed at the encoder end as well. Consequently, the transformed and quantized residues are processed by Inverse Quantization (IQ) 124 and Inverse Transformation (IT) 126 to recover the residues. The residues are then added back to prediction data 136 at Reconstruction (REC) 128 to reconstruct video data. The reconstructed video data may be stored in Reference Picture Buffer 134 and used for prediction of other frames.

[0005] As shown in Fig. 1A, incoming video data undergoes a series of processing in the encoding system. The reconstructed video data from REC 128 may be subject to various impairments due to a series of processing. Accordingly, in-loop filter 130 is often applied to the reconstructed video data before the reconstructed video data are stored in the Reference Picture Buffer 134 in order to improve video quality. For example, deblocking filter (DF) , Sample Adaptive Offset (SAO) and Adaptive Loop Filter (ALF) may be used. The loop filter information may need to be incorporated in the bitstream so that a decoder can properly recover the required information. Therefore, loop filter information is also provided to Entropy Encoder 122 for incorporation into the bitstream. In Fig. 1A, Loop filter 130 is applied to the reconstructed video before the reconstructed samples are stored in the reference picture buffer 134. The system in Fig. 1A is intended to illustrate an exemplary structure of a typical video encoder. It may correspond to the High Efficiency Video Coding (HEVC) system, VP8, VP9, H. 264 or VVC.

[0006] The decoder, as shown in Fig. 1B, can use some of the functional blocks as the encoder. For example, the decoder can reuse Inverse Quantization 124 and Inverse Transform 126; however, Transform 118 and Quantization 120 are not needed at the decoder. Instead of Entropy Encoder 122, the decoder uses an Entropy Decoder 140 to decode the video bitstream into quantized transform coefficients and needed coding information (e.g. ILPF information, Intra prediction information and Inter prediction information) . The Intra prediction 150 at the decoder side does not need to perform the mode search. Instead, the decoder only needs to generate Intra prediction according to Intra prediction information received from the Entropy Decoder 140. Furthermore, for Inter prediction, the decoder only needs to perform motion compensation (MC 152) according to Inter prediction information received from the Entropy Decoder 140 without the need for motion estimation.

[0007] According to VVC, an input picture is partitioned into non-overlapped square block regions referred as CTUs (Coding Tree Units) , similar to HEVC. Each CTU can be partitioned into one or multiple smaller size coding units (CUs) . The resulting CU partitions can be in square or rectangular shapes. Also, VVC divides a CTU into prediction units (PUs) as a unit to apply prediction process, such as Inter prediction, Intra prediction, etc.

[0008] The VVC standard incorporates various new coding tools to further improve the coding efficiency over the HEVC standard. Some tools relevant to the present invention are reviewed as follows.

[0009] 1.1 Intra Mode Coding with 67 Intra Prediction Modes

[0010] In VVC, several conventional angular intra prediction modes are adaptively replaced with wide-angle intra prediction modes for the non-square blocks.

[0011] 1.2 Intra Mode Coding

[0012] The most probable mode (MPM) list is generated by considering two available neighbouring intra modes.

[0013] 1.3 Decoder-side Intra Mode Derivation (DIMD)

[0014] When DIMD is applied, two intra modes are derived from the reconstructed neighbour samples (template) , and those two predictors are combined with the planar mode predictor with the weights derived from the gradients.

[0015] A texture gradient analysis is performed at both the encoder and decoder sides. This process starts with an empty Histogram of Gradient (HoG) with 65 entries, corresponding to the 65 angular modes. Amplitudes of these entries are determined during the texture gradient analysis.

[0016] More details can reference JVET-O0449 “Non-CE3: Decoder-side Intra Mode Derivation (DIMD) with prediction fusion using Planar” and / or “Algorithm description of Enhanced Compression Model” (for example, JVET-AG2025) .

[0017] Figs. 2A-C show an example of HoG, calculated after applying the above operations on all pixel positions in the template. Fig. 2A illustrates an example of selected template 220 for a current block 210. Template 220 comprises T lines above the current block and T columns to the left of the current block. For intra prediction of the current block, the area 230 at the above and left of the current block corresponds to a reconstructed area and the area 240 below and at the right of the block corresponds to an unavailable area. Fig. 2B illustrates an example for T=3 and the HoGs are calculated for pixels 260 in the middle line and pixels 262 in the middle column. For example, for pixel 252, a 3x3 window 250 is used. Fig. 2C illustrates an example of the amplitudes (ampl) calculated for the angular intra prediction modes (i.e., HoG 270) .

[0018] 1.4 Template-based Intra Mode Derivation (TIMD)

[0019] Template-based intra mode derivation (TIMD) mode implicitly derives the intra prediction mode of a CU by a neighbouring template at both the encoder and decoder, instead of signalling exact intra prediction mode bits to the decoder. The prediction samples of the template are generated using the reference samples of the template for each candidate mode. A cost is calculated as the SATD between the prediction and the reconstruction samples of the template. First two intra prediction modes with the minimum SATD are selected as the TIMD modes. These two TIMD modes are fused with the weights to generate the prediction for the current CU.

[0020] More details can reference “Algorithm description of Enhanced Compression Model” (for example, JVET-AG2025) .

[0021] 1.5 Extrapolation filter-based Intra Prediction (EIP) mode

[0022] In the EIP mode, the samples in a CU are predicted from the top-left position to the bottom-right position by applying an extrapolation filter to neighbouring reconstructed samples or predicted samples. The EIP mode uses a 15-tap filter for prediction as below: where pred (x, y) is the predicted value at position (x, y) in the CU, ci is the filter coefficient,  and the  is the reconstructed samples or predicted samples.

[0023] The EIP filter can be derived from the neighbouring reconstructed samples or inherited from the previous EIP coded blocks. There are three EIP filter shapes and three types of reconstructed area supported in ECM as shown in Fig. 3 and Fig. 4, respectively. In Fig. 3, the three filter shapes correspond to square 310, horizontal strip 320, and vertical strip 330. In Fig. 4, the three reconstructed areas correspond to Left-Above area (Fig. 4A) , Above area (Fig. 4B) , and Left area (Fig. 4C) .

[0024] For an EIP-coded CU, an EIP merge flag is signalled to indicate whether the EIP filter is inherited from previous EIP-coded blocks. When the EIP merge flag is true, an EIP merge list is constructed from the spatial adjacent, spatial non-adjacent, temporal and history candidates. The position and inclusion order of these candidates are the same as CCP merge mode. An EIP merge index is further signalled to indicate which EIP merge candidate is selected.

[0025] When the EIP merge flag is false, the EIP filter is derived from the neighbouring reconstructed samples and the relevant syntax element is signalled to indicate which one of the three types of reconstructed area and which one of the three filter shapes are used for the CU. The selected filter moves in the selected reconstructed area either horizontally or vertically with a one-pixel step to construct the auto-correlation matrix and the cross-correlation vector. The calculation of coefficients from the auto-correlation matrix and the cross-correlation vector is the same as that in CCCM.

[0026] 1.6 Template-Based Multiple Reference Line Intra Prediction

[0027] Template-based multiple reference line intra prediction (TMRL) mode combines reference lines and prediction mode together and uses a template matching method to construct a list of candidate combinations. An index to the candidate combination list is signalled.

[0028] The extended reference line starts from reference line 1. Reference line 0 is used for template matching. The SAD costs (TMRL costs) over the template area (see Fig. 5) are calculated between the predictions (generated by 50 combinations) and the reconstructions. The 20 combinations with the least SAD cost are selected in an ascending order to form the TMRL candidate list.

[0029] 1.7 Intra-prediction using Merged Histogram of Gradients

[0030] JVET-AG0078 proposes to add a new intra prediction mode, referred to as Merged Intra Mode Derivation (MIMD) , based on the computation of a Merged Histogram of Gradients (MHoG) . Similar to DIMD, up to five MIMD modes are derived from the MHoG and are then blended together. The derivation of the modes and blending weights follows the same process to derive DIMD modes and blending weights from the HoG. But differently than DIMD, the MHoG is not computed directly analysing the template samples, but rather is computed based on information extracted from neighbouring blocks.

[0031] In particular, a number of N neighbouring blocks is considered. A neighbouring block is considered if it is encoded with at least one directional intra-prediction mode. Hi (m) refers to the amplitude of directional mode m in the HoG, where m can take values from 0 to M where M is the maximum number of intra-prediction modes. A normalisation process can be used when considering Hi.

[0032] Then, the MHoG can be computed using all the HoGs extracted from available neighbouring blocks as:

[0033] Finally, the MHoG is used to compute MIMD modes and weights. The directional modes and their weights corresponding to the five highest amplitudes in the MHoG are selected as directional modes and weights for MIMD. More details can be found in JVET-AG0078.

[0034] 1.8 Occurrence-Based Intra Coding (OBIC)

[0035] The occurrence-based intra coding (OBIC) derives the intra prediction modes of the current block based on the sample-wise occurrence of the intra modes in the spatial neighbourhood of the block. For this, adjacent and non-adjacent spatial neighbouring blocks are checked and the intra prediction modes of the blocks are collected into an occurrence histogram. Instead of Histogram of Gradient (HoG) as in DIMD, the OBIC method uses the Histogram of oCcurrence (HoC) , which consists of the intra modes and their sample-wise occurrences. The occurrence values are calculated based on the number of samples that are coded in a certain intra prediction mode in that neighbourhood.

[0036] Up to five angular modes with the highest occurrence along with the planar mode or block vector based prediction (same as in DIMD) are selected from the HoC and used for final prediction by blending the prediction of the selected modes.

[0037] Some blocks, mentioned below, use more than one intra mode for prediction. In such cases, all the intra modes of such blocks are selected and used when creating the OBIC histogram: · DIMD: up to 5 angular modes · TIMD: up to 2 modes · SGPM: 2 modes · OBIC: up to 5 angular modes.

[0038] Moreover, the virtual intra prediction modes (VIPMs) of following blocks are considered only in inter slices when creating the histogram of OBIC mod: · MIP (Matrix-Based Intra Prediction) block · IntraTMP block · IBC block · EIP block.

[0039] The blending weights and the planar mode’s weight are calculated similar to the DIMD mode, but instead of using gradient values from the template, the occurrence values are used for OBIC. More details can be found in JVET-AH0076

[0040] In the present invention, methods and apparatus to increase diversity of merge list are disclosed. BRIEF SUMMARY OF THE INVENTION

[0041] A method and apparatus of deriving a merge list with more diversity are disclosed. According to the method, input data associated with a current block is received, wherein the input data comprises pixel data to be encoded at an encoder side or coded data associated with the current block to be decoded at a decoder side. A to-be-included candidate and a current intra merge candidate list are determined. Whether to insert the-be-included candidate into the current intra merge candidate list to generate an updated intra merge candidate list is determined by checking similarity between the to-be-included candidate and existing candidates in the current intra merge candidate list, wherein the similarity comprises mode type similarity. The current block is encoded or decoded by using coding information comprising the updated intra merge candidate list.

[0042] In one embodiment, similarity check is also applied during construction of a history-based buffer array, and wherein the similarity is checked between a to-be-included history candidate and existing history candidates in the history-based buffer array.

[0043] In one embodiment, when the to-be-included candidate and one existing candidate in the current intra merge candidate list have a same mode type, the mode type similarity is asserted.

[0044] In one embodiment, when the to-be-included candidate or one existing candidate in the current intra merge candidate list is an OBIC candidate or MIMD candidate, the to-be-included candidate or said one existing candidate in the current intra merge candidate list is considered to have a mode type as DIMD with regard to the mode type similarity.

[0045] In one embodiment, if the current intra merge candidate list already contains a number of candidates with a mode type the same as the to-be-included candidate larger than a threshold, the to-be-included candidate is not included in the current intra merge candidate list. In one embodiment, the threshold is 0 or any positive integer.

[0046] In one embodiment, the mode type similarity is checked to determine whether the to-be-included candidate and the existing candidates in the current intra merge candidate list are in a same mode type group or not. In one embodiment, one mode type group is defined as one or more intra predictions used by the to-be-included candidate and the existing candidates in the current intra merge candidate list. In one embodiment, one mode type group is defined as one or more learning-based and / or non-angular-based intra predictions used by the to-be-included candidate and the existing candidates in the current intra merge candidate list.

[0047] In one embodiment, the similarity further comprises intra prediction mode similarity, prediction fusion weight similarity, BV (Block Vector) usage information similarity, or a combination thereof.

[0048] In one embodiment, the intra prediction mode similarity is checked to determine whether intra prediction modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list is the same or not. In one embodiment, only a pre-defined intra prediction mode of the to-be-included candidate and the existing candidates in the current intra merge candidate list is checked for the intra prediction mode similarity. In one embodiment, the intra prediction mode similarity check is applied only when the to-be-included candidate and the existing candidates in the current intra merge candidate list belong to a same mode type group or a same mode type.

[0049] In one embodiment, the intra prediction mode similarity is checked to determine whether intra mode difference between the to-be-included candidate and the existing candidates in the current intra merge candidate list is smaller than a pre-defined threshold. In one embodiment, for the intra prediction mode similarity check, domain and / or granularity of the intra prediction modes for the to-be-included candidate and the existing candidates in the current intra merge candidate list are aligned

[0050] In one embodiment, if a first number of the intra prediction modes of the to-be-included candidate and a second number of the intra prediction modes of the existing candidates are different, the to-be-included candidate and the existing candidates in the current intra merge candidate list are determined to be non-similar candidates.

[0051] In one embodiment, the intra prediction mode similarity is checked to determine whether intra mode of the to-be-included candidate and the existing candidates in the current intra merge candidate list is the same or not. In one embodiment, the intra prediction mode similarity check is applied to all or part of the intra prediction modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list. In one embodiment, the intra prediction mode similarity check is applied to first N intra prediction modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list. In one embodiment, the mode types of the to-be-included candidate and the existing candidates in the current intra merge candidate list are both EIP (Extrapolation filter-based Intra Prediction) or MIP (Matrix-Based Intra Prediction) , the intra prediction mode similarity check corresponds to checking whether the to-be-included candidate and the existing candidates in the current intra merge candidate list have a same EIP filter shape or a same MIP matrix index respectively.

[0052] In one embodiment, fusion weight similarity is checked to determine whether fusion weights of the to-be-included candidate and the existing candidates in the current intra merge candidate list are the same for all or part of intra modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list. In one embodiment, fusion weights of corresponding intra prediction modes between the to-be-included candidate and the existing candidates in the current intra merge candidate list are checked for the fusion weight similarity. In one embodiment, fusion weight similarity check is performed at low accuracy. In one embodiment, if a mode type of the to-be-included candidate and the existing candidates in the current intra merge candidate list are both EIP mode, the fusion weight similarity is checked to determine whether all or part of EIP model parameters of the to-be-included candidate and the existing candidates in the current intra merge candidate list are exactly the same or not.

[0053] In one embodiment, the BV usage information similarity is checked to determine whether the to-be-included candidate and the existing candidates in the current intra merge candidate list both use BV to generate prediction. In one embodiment, when the to-be-included candidate and the existing candidates in the current intra merge candidate list both use the BV to generate the prediction, the BV usage information similarity is further checked to determine whether the same BV is used by the to-be-included candidate and the existing candidates in the current intra merge candidate list. In one embodiment, the BV usage information similarity is checked by using low accuracy.

[0054] In one embodiment, after said checking similarity between the to-be-included candidate and existing candidates in the current intra merge candidate list and no similar candidate in the current intra merge candidate list is found, the to-be-included candidate is added to the current intra merge candidate list.BRIEF DESCRIPTION OF THE DRAWINGS

[0055] Fig. 1A illustrates an exemplary adaptive Inter / Intra video encoding system incorporating loop processing.

[0056] Fig. 1B illustrates a corresponding decoder for the encoder in Fig. 1A.

[0057] Fig. 2A illustrates an example of selected template for a current block, where the template comprises T lines above the current block and T columns to the left of the current block.

[0058] Fig. 2B illustrates an example for T=3 and the HoGs (Histogram of Gradient) are calculated for pixels in the middle line and pixels in the middle column.

[0059] Fig. 2C illustrates an example of the amplitudes (ampl) for the angular intra prediction modes.

[0060] Fig. 3 illustrates three types of filter shapes with fifteen inputs and generates one output for EIP process.

[0061] Figs. 4A-C illustrate three types (Fig. 4A: Left-Above area, Fig. 4B: Above area, and Fig. 4C: Left area) of reconstructed areas used to derive filter coefficients for EIP.

[0062] Fig. 5 illustrates an example of template area with multiple reference lines.

[0063] Fig. 6 illustrates the positions of spatial merge candidates.

[0064] Fig. 7 illustrates a flowchart of an exemplary video coding system that derives merge list with candidate diversity according to an embodiment of the present invention.DETAILED DESCRIPTION OF THE INVENTION

[0065] It will be readily understood that the components of the present invention, as generally described and illustrated in the figures herein, may be arranged and designed in a wide variety of different configurations. Thus, the following more detailed description of the embodiments of the systems and methods of the present invention, as represented in the figures, is not intended to limit the scope of the invention, as claimed, but is merely representative of selected embodiments of the invention. References throughout this specification to “one embodiment, ” “an embodiment, ” or similar language mean that a particular feature, structure, or characteristic described in connection with the embodiment may be included in at least one embodiment of the present invention. Thus, appearances of the phrases “in one embodiment” or “in an embodiment” in various places throughout this specification are not necessarily all referring to the same embodiment.

[0066] Furthermore, the described features, structures, or characteristics may be combined in any suitable manner in one or more embodiments. One skilled in the relevant art will recognize, however, that the invention can be practiced without one or more of the specific details, or with other methods, components, etc. In other instances, well-known structures, or operations are not shown or described in detail to avoid obscuring aspects of the invention. The illustrated embodiments of the invention will be best understood by reference to the drawings, wherein like parts are designated by like numerals throughout. The following description is intended only by way of example, and simply illustrates certain selected embodiments of apparatus and methods that are consistent with the invention as claimed herein.

[0067] In this disclosure, an intra merge scheme is proposed to improve intra prediction using a merge scheme. This intra merge mode can also be named as decoder-derived intra prediction (DIP) merge mode. The concept of the merge scheme is to inherit (or reference) the information from previous coded blocks and use the inheritance information to predict the current block. The main difference between the proposed intra merge scheme and the traditional intra MPM is described as follows. For an intra block, the traditional intra MPM can only inherit the intra prediction mode signalled in the previous coded block, for example, the intra prediction mode with the mode index referring to angular prediction modes, DC, or planar from the above neighbouring block and / or the left neighbouring block. The proposed intra merge scheme brings more flexible inheritance flows and / or more efficient inheritance information in the following aspects.

[0068] In the first aspect, in some embodiments specified in the section “inheritance information setting” , with the proposed intra merge scheme, the inheritance information can be any mode information, any sample information, any block information, any model information, and / or any information associated with prediction generation.

[0069] In the second aspect, in some embodiments specified in the section “inheritance block setting” , with the proposed intra merge scheme, the current block can find the previous coded blocks containing the inheritance information through several proposed merge methods.

[0070] In the third aspect, in the section “target mode setting and shortcut syntax setting” , for some embodiments, the proposed merge scheme is to obtain the information associated with prediction generation of the current block using the target mode. For some embodiments, the proposed methods are enabled or disabled depending on the shortcut syntax setting.

[0071] When generating the prediction of the current block coded by the target mode, one or more inheritance blocks are selected from a merge candidate list or among several merge candidates (for example, a set of merge candidates) . Then, the inheritance information from the inheritance blocks is used for the target mode to generate prediction.

[0072] In some embodiments, the inheritance information of each merging candidate can belong to different target modes, that is, mixed modes. For example, the inheritance information of merge candidates can be related to DIMD, and / or TIMD, and / or MRL, and / or MIP, and / or EIP, and / or their variants. One merge list can contain the merge candidates with different target modes (mixed modes) . The current block can be predicted following DIMD, TIMD, MRL, MIP, EIP, or their variants depending on which merge candidate is used.

[0073] In one sub-embodiment, only one merge candidate list or set is built for the current block. For example, a unified list or set is used for the current block to generate the intra luma prediction and / or which target mode is applied to the current block depends on the selected candidate from the list or set. In one case, for the candidate list, the similarity checks can be different. The similarity check for the list can vary with the mode type for a candidate or any implicit rule, for example, block width, block height, and / or block area of the current block or the to-be-inherited blocks of candidates. In another case, for the candidate list, the similarity checks can be different. The similarity check for the list can vary with an explicit syntax element.

[0074] In one sub-embodiment, at least one or at least two merging candidate lists or sets are built for the current block. For example, for each mode category, a candidate list or set, which contains one or more candidates belonging to the same mode category, is built. In one case, for different candidate lists, the similarity checks can be different. The similarity check can vary with the mode category for a list or any implicit rule, for example, block width, block height, and / or block area of the current block or the to-be-inherited blocks of candidates. For an example of the list for the mode category of DIMD-related and / or TIMD related modes, the similarity check refers to the intra mode check and / or fusion weight check, for example, the methods in section 2.2.2 “Similarity check for the to-be-included candidates” (which can be applied to the candidates with the mode type related to DIMD / TIMD) . For an example of the list for the mode category of EIP-related and / or MIP-related modes, the similarity check refers to the intra mode check and / or fusion weight check, for example, the methods specified in section 2.2.2 “Similarity check for the to-be-included candidates” (which can be applied to the candidates with the mode type related to EIP / MIP) . In another case, for different candidate lists, the similarity checks can be different. The similarity check for a list can vary with an explicit syntax element.

[0075] In one embodiment, there is a maximum number of allowed candidates in the merge candidate list.

[0076] In one sub-embodiment, the maximum number is 12.

[0077] 2.1 Inheritance Information Setting

[0078] Here defines the inheritance information for generating prediction of the current block using a target mode.

[0079] 2.1.1 Inheritance information setting for DIMD

[0080] For DIMD mode, the inheritance information includes list bullets (a) , (b) , (c) , (d) , or a combination thereof. (a) one or more histogram (bar) values for the available DIMD intra prediction modes  (e.g. DC, planar, and / or directional prediction modes) , (b) the N intra prediction modes (with the highest N histogram bars) suggested by the  histogram values, (c) DIMD weighting information and / or fusion or not, (d) reference line information and / or wide-angle conditions.

[0081] 2.1.2 Inheritance information setting for TIMD

[0082] For TIMD mode, the inheritance information includes list bullets (a) , (b) , (c) , (d) , or a combination thereof. (a) one or more TIMD cost values for the available TIMD intra prediction modes (e.g.  DC, planar, and / or directional prediction modes) , (b) the N intra prediction modes (with the smallest N TIMD costs) suggested by the  TIMD costs, (c) TIMD weighting information and / or fusion or not, (d) reference line information and / or wide-angle conditions.

[0083] 2.1.3 Inheritance information setting for MRL

[0084] For MRL mode, the inheritance information includes list bullets (a) , (b) , (c) , (d) , or a combination thereof. (a) one or more reference lines jointly with intra prediction modes (e.g. DC, planar,  and / or directional prediction modes) , (b) the N intra prediction modes (with the smallest N TIMD costs) suggested by the  TIMD costs, (c) weighting information and / or fusion or not, (d) reference line information and / or wide-angle conditions.

[0085] 2.1.4 Inheritance information setting for EIP

[0086] For EIP mode, the inheritance information includes list bullets (a) , (b) , (c) , or a combination thereof. (a) the filter shape, (b) all or parts of the filter coefficients, (c) the template used to derive the filter coefficients.

[0087] 2.1.5 Inheritance information setting for intra merge mode

[0088] When the target mode is intra merge mode, which can also be named as decoder-derived intra prediction (DIP) merge mode, the inheritance information includes all or any subset of the following items. Item 1: (a) , (b) , (c) , (d) , or a combination thereof in Section 2.1.1 (Inheritance  information setting for DIMD) Item 2: (a) , (b) , (c) , (d) , or a combination thereof in Section 2.1.2 (Inheritance  information setting for TIMD) Item 3: (a) , (b) , (c) , (d) , or a combination thereof in Section 2.1.3 (Inheritance  information setting for MRL) Item 4: coding mode (e.g. DIMD-related mode or not, TIMD-related mode or not,  MRL-related mode or not, SGPM-related mode or not, ISP-related mode or not, intraTMP-related mode or not, MPM-related mode or not, MIP-related mode or not, EIP-related mode or not, and / or any mode related to a pre-defined intra mode) and / or corresponding information of the coding mode. Item 5: (a) , (b) , (c) , or a combination thereof in Section 2.1.4 (Inheritance information  setting for EIP)

[0089] In one embodiment, for item 1, item 2, item 3, item 5, the embodiments in Section 2.1.1, 2.1.2, 2.1.3, 2.1.4, or a combination thereof can be used to obtain the inheritance information.

[0090] In another embodiment, item 4 is included in the inheritance information and / or the coding mode in item 4 decides the corresponding information to be further included in the DIP merge inheritance information. For example, the coding mode in item 4 is MRL-related mode and only the corresponding information from item 3 is included in the DIP merge inheritance information.

[0091] In one embodiment, the coding mode in item 4 is from a previous coded block specified in Section 2.2 “Inheritance block setting” . The previous coded block may store the mixed-mode inheritance information. The stored mixed-mode inheritance information of the previous coded block can be referenced by subsequent coding blocks (e.g., the current block) . For example, for each block containing the mixed-mode information, the mixed-mode information is stored and / or referenced by subsequent coding blocks. For example, for each pre-defined unit containing the mixed-mode information, the mixed-mode information is stored and / or referenced by subsequent coding blocks. The unit can be any pre-defined region or kxk grids, where k can be 2, 4, 8, 16, or any pre-defined positive integer.

[0092] In one sub-embodiment, the coding mode is EIP. The previous coded block generates the corresponding EIP inheritance information (e.g., filter shape and / or filter coefficients) and / or stores the DIP merge inheritance information (coding mode and / or the corresponding information) .

[0093] In one sub-embodiment, the coding mode is SGPM (Spatial Geometric Partitioning Mode) . This mode generates multiple hypotheses of predictions from different intra prediction modes and combines the hypotheses of predictions to form the final prediction using the weights based on a geometric partitioning line as inter GPM. The previous coded block generates the corresponding SGPM inheritance information (e.g., intra prediction modes and / or partitioning line and / or weights) and / or stores the DIP merge inheritance information (coding mode and / or the corresponding information) .

[0094] In one sub-embodiment, the coding mode is ISP (Intra Sub-Partition) . This mode splits the current block into multiple sub-partitions and generates prediction of each sub-partition using the reconstructed samples (possibly from the previous sub-partition) adjacent to the current sub-partition as the reference samples. The previous coded block generates the corresponding ISP inheritance information (e.g., one or more intra prediction modes and / or splitting method) and / or stores the DIP merge inheritance information (coding mode and / or the corresponding information) .

[0095] In one sub-embodiment, the coding mode is intraTMP (intra Template Matching Prediction) . This mode uses template matching to find a displacement (i.e., block vector) to refer a reference block in a pre-defined range of the current picture and generates prediction using the reconstructed samples of the reference block. The previous coded block generates the corresponding intraTMP inheritance information (e.g. one or more block vectors) and / or stores the DIP merge inheritance information (coding mode and / or the corresponding information) .

[0096] In another embodiment, the coding mode is MIP (Matrix-Based Intra Prediction) . This mode uses a pre-defined matrix and pre-defined adjacent or non-adjacent reference samples to generate the prediction. The previous coded block generates the corresponding MIP inheritance information (e.g. one or more matrix indications and / or one or more matrix coefficients of the indicated matrixes, block width, block height, block area, block position, or a combination thereof) and / or stores the DIP merge inheritance information (coding mode and / or the corresponding information) .

[0097] In another embodiment, instead of storing all DIP merge information (which may be used for reference) , only the subset of DIP merge information is stored to reduce the storage. For example, only 3 pieces or any pre-defined positive number from all are stored. For example, the subset is the first 3 from all. The first 3 always comprises item 4.

[0098] In one embodiment, the inheritance information of the target mode depends on an inherited coding mode value of the selected merge candidate.

[0099] In one sub-embodiment, if the coding mode of the selected merge candidate is DIMD, TIMD, EIP or MRL, the inherited coding mode value is the same as the coding mode (i.e., DIMD, TIMD, EIP or MRL respectively) .

[0100] In this application, "coding mode" and "mode type" are used interchangeably in some paragraphs, but they have the same meaning.

[0101] In one sub-embodiment, for a block coded in DIP merge mode, the inherited mode type value is set as following: When the current block is coded in DIP merge mode, the block will select a merge candidate to generate prediction; If the selected merging candidate for the current block is coded in DIMD, TIMD, MRL or EIP, the inherited mode type value of the current block is set to DIMD, TIMD, MRL or EIP respectively; If the selected merging candidate for the current block is coded in DIP merge mode, the inherited mode type value of the current block is set to the inherited mode type value of the selected merging candidate.

[0102] In one sub-embodiment, if the inherited mode type is DIMD, the inheritance information setting following the description in Section 2.1.1.

[0103] In one sub-embodiment, if the inherited mode type is TIMD, the inheritance information setting following the description in Section 2.1.2.

[0104] In one sub-embodiment, if the inherited mode type is MRL, the inheritance information setting following the description in Section 2.1.3.

[0105] In one sub-embodiment, if the inherited mode type is EIP, the inheritance information setting following the description in Section 2.1.4.

[0106] 2.2 Inheritance Block Setting

[0107] 2.2.1 Inheritance information from the previous coded blocks

[0108] The inheritance information is obtained from the previous coded blocks.

[0109] In one embodiment, one or more candidates of spatial adjacent candidates and / or non-adjacent candidates, history candidates, temporal candidates, default candidates, or any subset of above-mentioned candidates provide the inheritance information from the previous coded blocks.

[0110] In one embodiment, a merge candidate list, containing inheritance information, is built for the current block. Like the inter merge mode candidate list, the merge candidate list includes spatial adjacent candidates and / or non-adjacent candidates, history candidates, temporal candidates, default candidates, or any subset of above-mentioned candidates.

[0111] In one sub-embodiment, after building the merge candidates list, one or more candidates are selected from the list for the current block to use. The selection depends on explicitly signalling an index or implicitly select the one or more (promising) candidates. For example, the first one or more candidates with the smallest costs are selected. For example, the explicit index indicates one or more candidates in the reordered list as the selected candidates. The cost calculation and / or list reordering may depend on the template matching process which calculates the cost based on the distortion between the prediction (using a certain candidate) on the template and the reconstruction on the template. The candidates in the list are reordered based on cost in ascending order.

[0112] 2.2.1.1 Spatial adjacent candidates and non-adjacent candidates

[0113] The spatial adjacent candidates are from the adjacent neighbouring blocks of the current block. The adjacent neighbouring blocks can be the same as the 5 spatial neighbouring blocks for inter merge mode or any subset of the adjacent neighbouring blocks of the current block. For example, for adding the spatial adjacent candidates into the merge list, as in Fig. 6, the inclusion order can be A1 → B1 → A0 → B0 → B2 or B1 → A1 → B0 → A0 → B2. The non-adjacent candidates are from a search range around (but not adjacent to) the current block. The search range can be the same as the search range of non-adjacent candidates for inter merge mode. The non-adjacent candidates can be from pre-defined positions and are added into the merge list in a pre-defined inclusion order. For example, the pre-defined positions and the inclusion order are the same as those of the non-adjacent candidates of inter merge mode.

[0114] 2.2.1.2 History candidates

[0115] The history candidates are selected from a history-based buffer array. In the history-based buffer array, the inheritance information of each valid previous coded block is stored, where the valid previous coded block refers to any block containing inheritance information.

[0116] 2.2.1.3 Temporal candidates

[0117] The temporal candidates are obtained from the inheritance information stored in one or more previous coded picture. The temporal candidates are obtainable when the current slice / picture is a non-intra slice / picture.

[0118] In one embodiment, the temporal candidates can be from the block at some pre-defined positions (x′, y′) of the previous coded slices / picture.

[0119] In one sub-embodiment, the positions are inside the corresponding area of the current encoding block.

[0120] In one sub-embodiment, the pre-defined positions are outside of the corresponding area of the current encoding block.

[0121] In one sub-embodiment, the pre-defined positions can be determined based on the position, width and height of the current block.

[0122] In one sub-embodiment, the pre-defined positions can be determined based on the position, and some pre-defined fixed x-y distances.

[0123] In one embodiment, the previous coded pictures are among the pictures in the reference lists.

[0124] In one embodiment, the previous coded pictures are the same pictures as the collocated picture of the regular inter merge mode.

[0125] In one embodiment, there can be more than one selected / pre-defined previous coded picture.

[0126] In one embodiment, the previous coded pictures can be signalled in the picture / slice header. The reference list and the reference index are signalled in the picture / slice header. For example, L0 [0] is signalled. For another example, L1 [0] is signalled.

[0127] In one embodiment, the previous coded pictures are selected from a picture set with some pre-defined rules.

[0128] In one embodiment, the previous coded pictures are selected from pictures in the reference lists. The selection can be determined based on POC, and / or POC distance, and / or QP, and / or QP difference. For another example, pictures with a smaller POC are selected. For another example, the picture with a larger POC is selected. For example, the picture with the smallest POC distance from the current picture is selected. For another example, the picture with the smaller QP is selected. For another example, the picture with the larger QP is selected. For another example, the picture with smaller QP difference with the current picture is selected.

[0129] In one embodiment, the previous coded picture is the most recently coded I-picture.

[0130] In one embodiment, the rules to select / not select the previous coded pictures described in the paragraphs above can be combined. For example, the picture whose QP is the smallest among the un-scaled pictures in the reference lists is selected.

[0131] 2.2.1.4 Default candidates

[0132] The default candidates are the candidates containing default information and / or the default information is derived according to the candidates already put in the merge candidate list. In one embodiment, the default modes for the default candidates can be derived using MIMD scheme and / or OBIC scheme and / or EIP derived mode scheme and / or any existing or mentioned intra scheme (e.g. TIMD, DIMD, EIP, and / or MRL) and / or any variations of the existing or mentioned intra scheme.

[0133] 2.2.2 Similarity checks for the to-be-included candidates

[0134] To increase the diversity of candidates in the merge list, when adding a to-be-included candidate into the current merge list, similarity checks can be applied to the to-be-included candidate and the existing candidates in the merge list.

[0135] In one embodiment, the similarity checks can include but are not limited to check the similarity of mode type, intra prediction mode, prediction fusion weights, EIP filter shape similarity, MIP matrix index similarity and / or BV usage information.

[0136] In one sub-embodiment, when checking the similarity of mode type, the equality between the mode type of the to-be-included candidate and the mode type of the to-be-checked candidate in the merge list are evaluated. For example, if the mode type of the to-be-included candidate is DIMD and the mode type of the to-be-checked candidate is also DIMD, they are similar candidates. For an example of the mode type for a coding tool, an OBIC candidate and / or an MIMD candidate belong to the mode type as DIMD. For another example of the similarity check of this embodiment, if the merge list already contains the number of candidates (with the mode type the same as the to-be-included candidate) larger than a threshold, the similarity check will indicate the to-be-included candidate not to be included in the merge list. The threshold can be 0 or any positive integer.

[0137] In another sub-embodiment, the mode type check can be checking whether the mode type of the to-be-included candidate and the mode type of the to-be-checked candidate in the merge list belong to the same mode type group or not. One mode type group is defined as one or more intra predictions used by the to-be-included candidate and the existing candidates in the current merge candidate list. For example, one group can be defined as candidates use one or more intra predictions (e.g. DIMD, TIMD, MRL and TMRL) to generate the final intra prediction. Another group can be defined as candidates use learning-based / non-angular-based method (e.g., EIP or MIP) to generate the final intra prediction. For an example of the similarity check of this embodiment, if the merge list already contains the number of candidates (with the group the same as the to-be-included candidate) larger than a threshold, the similarity check indicates the to-be-included candidate not to be included in the merge list. The threshold can be 0 or any positive integer.

[0138] In one sub-embodiment, the intra prediction mode check can be checking whether the intra mode of the to-be-included candidate and the intra mode of the to-be-checked candidate in the merge list is the same or not. For example, the intra mode check is applied to a pre-defined intra mode of the to-be-included candidate and a predefined intra mode of the to-be-checked candidate. The pre-defined intra mode can be the first intra mode of a candidate. For another example, this embodiment is used only when the to-be-included candidate belongs to the same mode type group (or the same mode type) as the to-be-checked candidate. For another example, this embodiment can be used when the to-be-included candidate belongs to the same or different mode type group (or the same mode type) as the to-be-checked candidate.

[0139] In another sub-embodiment, the intra prediction mode check can be checking whether the difference between the intra mode of the to-be-included candidate and the intra mode of the to-be-checked candidate in the merge list is greater than a pre-defined threshold N or not. For example, if N is set to 3, the intra mode of the to-be-included candidate is 50, and the intra mode of the to-be-checked candidate is 52, they are similar candidates.

[0140] In one embodiment, the domain / granularity of the intra prediction modes should be aligned when checking the intra prediction mode similarity. For example, if the mode type of the to-be-included candidate is TIMD, intra mode comparison used in the intra prediction mode check shall be performed in the 131-domain.

[0141] In one sub-embodiment, the aforementioned intra prediction mode check can be applied to all or part of intra modes of the to-be-included candidate and all or part of intra modes of the to-be-checked candidate in the merge list. For example, if all checked intra modes are similar modes, they are similar candidates. Otherwise, they are not similar candidates.

[0142] For another example, assume the to-be-included candidate has N intra prediction modes and the to-be-checked candidate in the merge list has M intra prediction modes, where M is not equal to N. If N > M, and M intra prediction modes in the to-be-checked candidate are the subset of N intra modes of the to-be-included candidate, then they are similar candidates. Similarly, if N < M, and N intra prediction modes in the to-be-included candidate is the subset of M intra modes in the to-be-checked candidate, then they are similar candidates.

[0143] In another sub-embodiment, the aforementioned intra prediction mode check can be applied to the first N intra modes of the to-be-included candidate and the first N intra modes of the to-be-checked candidate in the merge list, where N is a positive integer value. If the first N intra modes are similar modes, they are similar candidates. Otherwise, they are not similar candidates.

[0144] In another sub-embodiment, the aforementioned intra prediction mode check can be applied to the N intra modes with the first largest weight of the to-be-included candidate and the N intra modes with the first largest weight of the to-be-checked candidate in the merge list. If N intra modes are similar modes, they are similar candidates. Otherwise, they are not similar candidates.

[0145] In one embodiment, if the number of intra modes of the to-be-included candidate and the number of intra modes of the to-be-checked candidate in the merge list are different, they are not similar candidates.

[0146] In another embodiment, if the number of intra modes of the to-be-included candidate and the number of intra modes of the to-be-checked candidate in the merge list are different, only N intra modes shall be checked for similarity where N is smaller than or equal to the smaller number of intra modes of the two candidates.

[0147] 2.3 Target Mode Setting and Shortcut Syntax Setting

[0148] 2.3.1 Target mode setting for DIMD (DIMD merge mode)

[0149] This section specifies a DIMD merge mode. When DIMD merge mode is used, the DIMD inheritance information from one or more pre-defined candidates according to the inheritance block setting is used to decide the prediction information as required for generating the prediction of the current block. For example, the inheritance information refers to the histogram values from the previous coded block and is used to decide one or more intra prediction modes (one kind of prediction information) and / or corresponding weights for the current block as regular DIMD. Then, unified with regular DIMD, the hypothesis of prediction from each derived intra prediction mode is combined using blending process to form the final prediction of the current block.

[0150] 2.3.2 Target mode setting for TIMD (TIMD merge mode)

[0151] This section specifies a TIMD merge mode. When the TIMD merge mode is used, the TIMD inheritance information from one or more pre-defined candidates (e.g. each candidate providing N intra prediction modes for the available TIMD intra prediction modes and TIMD weighting information, such as {IPM1, IPM2, W1, W2} , and / or fusion or not, and wide-angle conditions) according to the inheritance block setting, is used to decide the prediction information as required for generating the prediction of the current block. For example, the merge candidate list is built and reordered according to the costs in the template matching process. The template size and the template cost calculation may be unified with regular TIMD. After reordering the TIMD merge candidates, the first 2 or any pre-defined number candidates from the list are kept for signalling. Then, unified with regular TIMD, the hypothesis of prediction from each inherited intra prediction mode is combined using blending process to form the final prediction of the current block.

[0152] 2.3.3 Target mode setting for MRL (MRL merge mode)

[0153] This section specifies an MRL merge mode. When the MRL merge mode is used, the inheritance information from one or more pre-defined candidates (e.g. each candidate providing one or more reference lines jointly with intra prediction modes (IPM1 and MRL1) and / or fusion or not, and wide-angle conditions) according to the inheritance block setting, is used to decide the prediction information as required for generating the prediction of the current block. For example, the merge candidate list is built and reordered according to the costs in the template matching process. The template size and the template cost calculation may be unified with regular TMRL. After reordering the MRL merge candidates, the first 2 or any pre-defined number of candidates from the list are kept for signalling. Then, unified with regular intra prediction, such as inherited IPM1 and MRL1, the predictions from the inherited intra prediction mode and the inherited reference line are used to form the final prediction of the current block. For the example of inherited IPM1 with MRL1 and IPM2 with MRL2, the hypotheses of prediction from the inherited intra prediction modes with the corresponding inherited reference line are combined using blending process to form the final prediction of the current block. For the example of inherited IPM1 with MRL1 / W1 and IPM2 with MRL2 / W2, the hypotheses of prediction from inherited intra prediction modes with the corresponding inherited reference line are combined using blending process with W1 and W2 to form the final prediction of the current block.

[0154] 2.3.4 Target mode setting for mixed modes

[0155] This section specifies a mixed-mode merge mode. When the mixed-mode merge mode is used, the inherited mixed-mode information is used to generate the prediction of the current block. The inheritance information of a candidate may refer to the coding mode and / or the corresponding information. The current block obtains its own prediction information from the inheritance information.

[0156] An example of the coding mode from the inherited mixed-mode information being DIMD-related is shown as follows: - In one case or another, DIMD merge mode (Section 2.3.1) or regular DIMD is  applied to the current block.

[0157] An example of the coding mode from the inherited mixed-mode information being TIMD-related is shown as follows: - In one case or another, TIMD merge mode (Section 2.3.2) or regular TIMD is  applied to the current block.

[0158] An example of the coding mode from the inherited mixed-mode information being MRL-related is shown as follows: - In one case or another, MRL merge mode (Section 2.3.3) or regular intra prediction  using MRL or TMRL is applied to the current block.

[0159] An example of the coding mode from the inherited mixed-mode information being EIP-related is shown as follows: - In one case or another, EIP merge mode or EIP derived mode is applied to the  current block.

[0160] In another embodiment, only one candidate (e.g., the first available candidate) according to the inheritance block setting, is used to decide the prediction information for the current block.

[0161] In another embodiment, one or more candidates are used to decide the prediction information for the current block. For example, all available candidates are used to decide the prediction information for the current block. For example, assume a pre-defined maximum number be N, the first N available candidates according to the checking order are used to decide the prediction information for the current block. If the number of total available candidates is smaller than N, all the available candidates are used to decide the prediction information for the current block.

[0162] In one embodiment, an additional flag is signalled to indicate whether DIP merge mode is used or not before the DIMD flag. If DIP merge mode is used, a candidate index is additionally signalled.

[0163] In one embodiment, the candidate index is coded using truncated unary, and each bin of candidate index is context coded with a separate context.

[0164] The term “block” in this invention can refer to TU / TB, CU / CB, PU / PB, pre-defined region, or CTU / CTB.

[0165] Any combination of the proposed methods in this invention can be applied.

[0166] The proposed methods in this invention can be enabled and / or disabled according to implicit rules (e.g. block width, height, or area) or according to explicit rules (e.g., syntax on block, tile, slice, picture, SPS, or PPS level) . For example, the proposed method is applied when the block area is smaller / larger than a threshold.

[0167] Any of the foregoing proposed methods of merge list derivation with candidate diversity can be implemented in encoders and / or decoders. For example, any of the proposed methods can be implemented in an inter / intra / IBC / prediction / transform module of an encoder, and / or an inter / intra / IBC / prediction / transform module of a decoder. Alternatively, any of the proposed methods can be implemented as a circuit coupled to the inter / intra / IBC / prediction / transform module of the encoder and / or the inter / intra / IBC / prediction / transform module of the decoder, so as to provide the information needed by the inter / intra / IBC / prediction / transform module.

[0168] With reference to the exemplary encoder and decoder in Fig. 1A and Fig. 1B, the proposed methods of merge list derivation with candidate diversity can be implemented in an Intra coding module (e.g. Intra Pred. 150in Fig. 1B) in a decoder or an Intra coding module is an encoder (e.g. Intra Pred. 110 / in Fig. 1A) . However, the decoder or encoder may also use additional processing unit to implement the required cross-component prediction processing. While the Intra Pred. units (e.g. unit 110 in Fig. 1A and unit 150in Fig. 1B) are shown as individual processing units, they may correspond to executable software or firmware codes for a CPU (Central Processing Unit) or programmable devices (e.g. DSP (Digital Signal Processor) or FPGA (Field Programmable Gate Array) ) .

[0169] Fig. 7 illustrates a flowchart of an exemplary video coding system that derives merge list with candidate diversity according to an embodiment of the present invention. The steps shown in the flowchart may be implemented as program codes executable on one or more processors (e.g., one or more CPUs) at the encoder side. The steps shown in the flowchart may also be implemented based hardware such as one or more electronic devices or processors arranged to perform the steps in the flowchart. According to the method, input data associated with a current block is received in step 710, wherein the input data comprises pixel data to be encoded at an encoder side or coded data associated with the current block to be decoded at a decoder side. A to-be-included candidate and a current intra merge candidate list are determined in step 720. Whether to insert the-be-included candidate into the current intra merge candidate list to generate an updated intra merge candidate list is determined by checking similarity between the to-be-included candidate and existing candidates in the current intra merge candidate list in step 730, wherein the similarity comprises mode type similarity. The current block is encoded or decoded by using coding information comprising the updated intra merge candidate list in step 740.

[0170] The flowchart shown is intended to illustrate an example of video coding according to the present invention. A person skilled in the art may modify each step, re-arranges the steps, split a step, or combine steps to practice the present invention without departing from the spirit of the present invention. In the disclosure, specific syntax and semantics have been used to illustrate examples to implement embodiments of the present invention. A skilled person may practice the present invention by substituting the syntax and semantics with equivalent syntax and semantics without departing from the spirit of the present invention.

[0171] The above description is presented to enable a person of ordinary skill in the art to practice the present invention as provided in the context of a particular application and its requirement. Various modifications to the described embodiments will be apparent to those with skill in the art, and the general principles defined herein may be applied to other embodiments. Therefore, the present invention is not intended to be limited to the particular embodiments shown and described, but is to be accorded the widest scope consistent with the principles and novel features herein disclosed. In the above detailed description, various specific details are illustrated in order to provide a thorough understanding of the present invention. Nevertheless, it will be understood by those skilled in the art that the present invention may be practiced.

[0172] Embodiment of the present invention as described above may be implemented in various hardware, software codes, or a combination of both. For example, an embodiment of the present invention can be one or more circuit circuits integrated into a video compression chip or program code integrated into video compression software to perform the processing described herein. An embodiment of the present invention may also be program code to be executed on a Digital Signal Processor (DSP) to perform the processing described herein. The invention may also involve a number of functions to be performed by a computer processor, a digital signal processor, a microprocessor, or field programmable gate array (FPGA) . These processors can be configured to perform particular tasks according to the invention, by executing machine-readable software code or firmware code that defines the particular methods embodied by the invention. The software code or firmware code may be developed in different programming languages and different formats or styles. The software code may also be compiled for different target platforms. However, different code formats, styles and languages of software codes and other means of configuring code to perform the tasks in accordance with the invention will not depart from the spirit and scope of the invention.

[0173] The invention may be embodied in other specific forms without departing from its spirit or essential characteristics. The described examples are to be considered in all respects only as illustrative and not restrictive. The scope of the invention is therefore, indicated by the appended claims rather than by the foregoing description. All changes which come within the meaning and range of equivalency of the claims are to be embraced within their scope.

Claims

1.A method of video coding, the method comprising:receiving input data associated with a current block, wherein the input data comprises pixel data to be encoded at an encoder side or coded data associated with the current block to be decoded at a decoder side;determining a to-be-included candidate and a current intra merge candidate list;determining whether to insert the-be-included candidate into the current intra merge candidate list to generate an updated intra merge candidate list by checking similarity between the to-be-included candidate and existing candidates in the current intra merge candidate list, wherein the similarity comprises mode type similarity; andencoding or decoding the current block by using coding information comprising the updated intra merge candidate list.2.The method of Claim 1, wherein similarity check is also applied during construction of a history-based buffer array, and wherein the similarity is checked between a to-be-included history candidate and existing history candidates in the history-based buffer array.3.The method of Claim 1, wherein when the to-be-included candidate and one existing candidate in the current intra merge candidate list have a same mode type, the mode type similarity is asserted.4.The method of Claim 1, wherein when the to-be-included candidate or one existing candidate in the current intra merge candidate list is an OBIC candidate or MIMD candidate, the to-be-included candidate or said one existing candidate in the current intra merge candidate list is considered to have a mode type as DIMD with regard to the mode type similarity.5.The method of Claim 1, wherein if the current intra merge candidate list already contains a number of candidates with a mode type the same as the to-be-included candidate larger than a threshold, the to-be-included candidate is not included in the current intra merge candidate list.6.The method of Claim 5, wherein the threshold is 0 or any positive integer.7.The method of Claim 1, wherein the mode type similarity is checked to determine whether the to-be-included candidate and the existing candidates in the current intra merge candidate list are in a same mode type group or not.8.The method of Claim 7, wherein one mode type group is defined as one or more intra predictions used by the to-be-included candidate and the existing candidates in the current intra merge candidate list.9.The method of Claim 7, wherein one mode type group is defined as one or more learning-based and / or non-angular-based intra predictions used by the to-be-included candidate and the existing candidates in the current intra merge candidate list.10.The method of Claim 1, wherein the similarity further comprises intra prediction mode similarity, prediction fusion weight similarity, BV (Block Vector) usage information similarity, EIP filter shape similarity, MIP matrix index similarity, or a combination thereof.11.The method of Claim 10, wherein the intra prediction mode similarity is checked to determine whether intra prediction modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list is the same or not.12.The method of Claim 11, wherein only a pre-defined intra prediction mode of the to-be-included candidate and the existing candidates in the current intra merge candidate list is checked for the intra prediction mode similarity.13.The method of Claim 11, wherein intra prediction mode similarity check is applied only when the to-be-included candidate and the existing candidates in the current intra merge candidate list belong to a same mode type group or a same mode type.14.The method of Claim 11, wherein the intra prediction mode similarity is checked to determine whether intra mode difference between the to-be-included candidate and the existing candidates in the current intra merge candidate list is smaller than a pre-defined threshold.15.The method of Claim 11, wherein for intra prediction mode similarity check, domain and / or granularity of the intra prediction modes for the to-be-included candidate and the existing candidates in the current intra merge candidate list are aligned.16.The method of Claim 11, wherein if a first number of the intra prediction modes of the to-be-included candidate and a second number of the intra prediction modes of the existing candidates are different, the to-be-included candidate and the existing candidates in the current intra merge candidate list are determined to be non-similar candidates.17.The method of Claim 11, wherein intra prediction mode similarity check is applied to all or part of the intra prediction modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list.18.The method of Claim 11, wherein intra prediction mode similarity check is applied to first N intra prediction modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list.19.The method of Claim 11, wherein the mode types of the to-be-included candidate and the existing candidates in the current intra merge candidate list are both EIP (Extrapolation filter-based Intra Prediction) or MIP (Matrix-Based Intra Prediction) , intra prediction mode similarity check corresponds to checking whether the to-be-included candidate and the existing candidates in the current intra merge candidate list have a same EIP filter shape or a same MIP matrix index respectively.20.The method of Claim 10, wherein fusion weight similarity is checked to determine whether fusion weights of the to-be-included candidate and the existing candidates in the current intra merge candidate list are the same for all or part of intra modes of the to-be-included candidate and the existing candidates in the current intra merge candidate list.21.The method of Claim 20, wherein fusion weights of corresponding intra prediction modes between the to-be-included candidate and the existing candidates in the current intra merge candidate list are checked for the fusion weight similarity.22.The method of Claim 20, wherein fusion weight similarity check is performed at low accuracy.23.The method of Claim 20, wherein if a mode type of the to-be-included candidate and the existing candidates in the current intra merge candidate list are both EIP mode, the fusion weight similarity is checked to determine whether all or part of EIP model parameters of the to-be-included candidate and the existing candidates in the current intra merge candidate list are exactly the same or not.24.The method of Claim 10, wherein the BV usage information similarity is checked to determine whether the to-be-included candidate and the existing candidates in the current intra merge candidate list both use BV to generate prediction.25.The method of Claim 24, wherein when the to-be-included candidate and the existing candidates in the current intra merge candidate list both use the BV to generate the prediction, the BV usage information similarity is further checked to determine whether the same BV is used by the to-be-included candidate and the existing candidates in the current intra merge candidate list.26.The method of Claim 24, wherein the BV usage information similarity is checked by using low accuracy.27.The method of Claim 1, wherein after said checking similarity between the to-be-included candidate and existing candidates in the current intra merge candidate list and no similar candidate in the current intra merge candidate list is found, the to-be-included candidate is added to the current intra merge candidate list.28.An apparatus for video coding, the apparatus comprising one or more electronics or processors arranged to:receive input data associated with a current block, wherein the input data comprises pixel data to be encoded at an encoder side or coded data associated with the current block to be decoded at a decoder side;determine a to-be-included candidate and a current intra merge candidate list;determine whether to insert the-be-included candidate into the current intra merge candidate list to generate an updated intra merge candidate list by checking similarity between the to-be-included candidate and existing candidates in the current intra merge candidate list, wherein the similarity comprises mode type similarity; andencode or decode the current block by using coding information comprising the updated intra merge candidate list.

Images