Decoder-side intra mode derivation and prediction with augmented histogram of gradients

Abstract

A method for decoder-side intra mode derivation (DIMD) by inheriting histogram of gradients (HoG) from neighborhood is provided. A video coder derives a current HoG for a current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block. The inherited HoGs may include one or more augmented HoG that is derived without gradient calculation. The inherited HoGs may include one or more HoG that is re-generated for a neighboring block that already has a HoG that is stored and available for inheritance by the current block. The video coder identifies two or more intra-prediction directions based on the current HoG. The video coder encodes or decodes the current block by using the identified intra-prediction directions to generate a prediction of the current block.

Description

DECODER-SIDE INTRA MODE DERIVATION AND PREDICTION WITH AUGMENTED HISTOGRAM OF GRADIENTSCROSS REFERENCE TO RELATED PATENT APPLICATION (S)

[0001] The present disclosure is part of a non-provisional application that claims the priority benefit of U.S. Provisional Patent Application No. 63 / 623,835, filed on 23 January 2024. Content of above-listed applications is herein incorporated by reference.TECHNICAL FIELD

[0002] The present disclosure relates generally to video coding. In particular, the present disclosure relates to methods of coding pixel blocks by decoder-side intra mode prediction.BACKGROUND

[0003] Unless otherwise indicated herein, approaches described in this section are not prior art to the claims listed below and are not admitted as prior art by inclusion in this section.

[0004] High-Efficiency Video Coding (HEVC) is an international video coding standard developed by the Joint Collaborative Team on Video Coding (JCT-VC) . HEVC is based on the hybrid block-based motion-compensated DCT-like transform coding architecture. The basic unit for compression, termed coding unit (CU) , is a 2Nx2N square block of pixels, and each CU can be recursively split into four smaller CUs until the predefined minimum size is reached. Each CU contains one or multiple prediction units (PUs) .

[0005] Versatile video coding (VVC) is the latest international video coding standard developed by the Joint Video Expert Team (JVET) of ITU-T SG16 WP3 and ISO / IEC JTC1 / SC29 / WG11. The input video signal is predicted from the reconstructed signal, which is derived from the coded picture regions. The prediction residual signal is processed by a block transform. The transform coefficients are quantized and entropy coded together with other side information in the bitstream. The reconstructed signal is generated from the prediction signal and the reconstructed residual signal after inverse transform on the de-quantized transform coefficients. The reconstructed signal is further processed by in-loop filtering for removing coding artifacts. The decoded pictures are stored in the frame buffer for predicting the future pictures in the input video signal.

[0006] In VVC, a coded picture is partitioned into non-overlapped square block regions represented by the associated coding tree units (CTUs) . The leaf nodes of a coding tree correspond to the coding units (CUs) . A coded picture can be represented by a collection of slices, each comprising an integer number of CTUs. The individual CTUs in a slice are processed in raster-scan order. A bi-predictive (B) slice may be decoded using intra prediction or inter prediction with at most two motion vectors (MVs) and reference indices to predict the sample values of each block. A predictive (P) slice is decoded using intra prediction or inter prediction with at most one motion vector and reference index to predict the sample values of each block. An intra (I) slice is decoded using intra prediction only.

[0007] Each CU contains one or more prediction units (PUs) . The prediction unit, together with the associated CU syntax, works as a basic unit for signaling the predictor information. The specified prediction process is employed to predict the values of the associated pixel samples inside the PU. A CTU consists of one luma CTB, two chroma CTBs, and associated syntax elements. A similar relationship is valid for CU, PU, and TU.

[0008] For each inter-predicted CU, motion parameters consisting of motion vectors, reference picture indices and reference picture list usage index, and additional information are used for inter-predicted sample generation. The motion parameter can be signalled in an explicit or implicit manner. When a CU is coded with skip mode, the CU is associated with one PU and has no significant residual coefficients, no coded motion vector delta or reference picture index. A merge mode is specified whereby the motion parameters for the current CU are obtained from neighbouring CUs, including spatial and temporal candidates, and additional schedules introduced in VVC. The merge mode can be applied to any inter-predicted CU. The alternative to merge mode is the explicit transmission of motion parameters, where motion vector, corresponding reference picture index for each reference picture list and reference picture list usage flag and other needed information are signalled explicitly per each CU.

[0009] Intra block copy (IBC) or current picture referencing (CPR) refer to coding pixel blocks by referencing pixel positions within same current picture as the current block by using block vectors.SUMMARY

[0010] The following summary is illustrative only and is not intended to be limiting in any way. That is, the following summary is provided to introduce concepts, highlights, benefits and advantages of the novel and non-obvious techniques described herein. Select and not all implementations are further described below in the detailed description. Thus, the following summary is not intended to identify essential features of the claimed subject matter, nor is it intended for use in determining the scope of the claimed subject matter.

[0011] Some embodiments of the disclosure provide a method for decoder-side intra mode derivation (DIMD) by inheriting histogram of gradients (HoG) from the neighborhood of the current block. A video coder receives data to be encoded or decoded as a current block of pixels of a current picture of a video. The video coder derives a current HoG for the current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block. The video coder identifies two or more intra-prediction directions based on the current HoG. The video coder encodes or decodes the current block by using the identified intra-prediction directions to generate a prediction of the current block.

[0012] In some embodiments, the current HoG is derived by a weighted sum of the one or more inherited HoGs, with each of the inherited HoGs weighted according to a confidence factor associated with the neighboring block providing the inherited HoG. For example, in some embodiments, higher confidence factors are assigned for intra-coded neighboring blocks and lower confidence factors are assigned for inter-coded neighboring blocks with HoGs propagated by motion vectors or block vectors. Confidence factor may also be determined based on statistics of the neighborhood such as texture.

[0013] In some embodiments, whether to encode or decode the current block by using the inherited HoGs is determined based on a number or a percentage of the neighboring CUs having an available HoG for inheritance by the current block.

[0014] The inherited HoGs may include at least one previously stored HoG that is derived by gradient calculation of samples in an L-shaped adjacent region of a neighboring block. The inherited HoGs may include at least one regenerated HoG that is derived by gradient calculation of reconstructed samples of a neighboring block. In some embodiments, the inherited HoGs may include at least one regenerated HoG that is derived by gradient calculation of predicted samples of a neighboring block. The predicted samples may be generated by inter or intra prediction coding tools such as MIP / EIP / IntraTMP / IBC, etc. In some embodiments, the inherited HoGs may include at least one HoG that is re-generated for a neighboring block that already has a HoG that is stored and available for inheritance by the current block.

[0015] In some embodiments, at least one of the inherited HoGs is an augmented HoG that is derived without gradient calculation. In some embodiments, the augmented HoG specifies amplitudes that are derived from a characteristic of a neighboring block. Examples of such a characteristic include: block size, variance of prediction samples, variance of reconstruction samples, and sum of absolute transform coefficients. In some embodiments, the augmented HoG specifies one or more intra-prediction directions that are provided by a coding tool used to encode or decode a neighboring block. Examples of such coding mode include: single angular mode intra prediction, angular modes of inherited DIMD, TIMD, SGPM, reconstruction DIMD, prediction DIMD based on MIP / EIP / IntraTMP / IBC, etc. For example, a partition angle specified by a geometric partitioning of the neighboring block can be used to specify the two or more intra-prediction directions of the augmented HoG and a weighting factor for the amplitude for each of the two or more intra-prediction directions of the augmented HoG.BRIEF DESCRIPTION OF THE DRAWINGS

[0016] The accompanying drawings are included to provide a further understanding of the present disclosure, and are incorporated in and constitute a part of the present disclosure. The drawings illustrate implementations of the present disclosure and, together with the description, serve to explain the principles of the present disclosure. It is appreciable that the drawings are not necessarily in scale as some components may be shown to be out of proportion than the size in actual implementation in order to clearly illustrate the concept of the present disclosure.

[0017] FIG. 1 illustrates using decoder-side intra mode derivation (DIMD) to implicitly derive an intra prediction mode for a current block.

[0018] FIG. 2 shows the neighboring regions and related neighboring CUs, from which the histograms of gradients (HoGs) are used to build the HoG of the current CU.

[0019] FIG. 3 conceptually illustrates using augmented HoGs in addition to stored HoGs when coding a current CU by DIMD inheritance mode.

[0020] FIG. 4 illustrates an example augmented HoG that is derived for a block.

[0021] FIG. 5 illustrates an augmented HoG that is derived based on geometric partition edge.

[0022] FIG. 6 conceptually illustrates using a HoG generated by the reconstruction DIMD process for coding a current CU.

[0023] FIG. 7 illustrates an example video encoder that may implement DIMD intra-prediction.

[0024] FIG. 8 illustrates portions of the video encoder that implement DIMD inheritance mode.

[0025] FIG. 9 conceptually illustrates a process for using DIMD inheritance mode to encode a pixel block.

[0026] FIG. 10 illustrates an example video decoder that may implement DIMD intra-prediction.

[0027] FIG. 11 illustrates portions of the video decoder that implement DIMD inheritance mode.

[0028] FIG. 12 conceptually illustrates a process for using DIMD inheritance mode to decode a pixel block.

[0029] FIG. 13 conceptually illustrates an electronic system with which some embodiments of the present disclosure are implemented.DETAILED DESCRIPTION

[0030] In the following detailed description, numerous specific details are set forth by way of examples in order to provide a thorough understanding of the relevant teachings. Any variations, derivatives and / or extensions based on teachings described herein are within the protective scope of the present disclosure. In some instances, well-known methods, procedures, components, and / or circuitry pertaining to one or more example implementations disclosed herein may be described at a relatively high level without detail, in order to avoid unnecessarily obscuring aspects of teachings of the present disclosure. I. Decoder Side Intra Mode Derivation (DIMD)

[0031] Decoder-Side Intra Mode Derivation (DIMD) is a technique in which two or more intra prediction modes / angles / directions are derived from the reconstructed neighbor samples (template) of a block, and those two predictors are combined with the planar mode predictor with the weights derived from the gradients. The DIMD mode is used as an alternative prediction mode and is always checked in high-complexity RDO mode. To implicitly derive the intra prediction modes of a blocks, a texture gradient analysis is performed at both encoder and decoder sides. This process starts with an empty Histogram of Gradient (HoG) having 65 entries, corresponding to the 65 angular / directional intra prediction modes. Amplitudes of these entries are determined during the texture gradient analysis.

[0032] A video coder performing DIMD performs the following steps: in a first step, the video coder picks a template of T=3 columns and lines from respectively left and above current block. This area is used as the reference for the gradient based intra prediction modes derivation. In a second step, the horizontal and vertical Sobel filters are applied on all 3×3 window positions, centered on the pixels of the middle line of the template. On each window position, Sobel filters calculate the intensity of pure horizontal and vertical directions as Gx and Gy, respectively. Then, the texture angle of the window is calculated as: angle=arctan (Gx / Gy) ,

[0033] which can be converted into one of the 65 angular intra prediction modes. Once the intra prediction modes index of current window is derived as idx, the amplitude of its entry in the HoG[idx] is updated by addition of amplitude = |Gx|+|Gy|

[0034] FIG. 1 illustrates using decoder-side intra mode derivation (DIMD) to implicitly derive an intra prediction mode for a current block. The figure shows an example Histogram of Gradient (HoG) 110 that is calculated after applying the above operations on all pixel positions in a template 115 that includes neighboring lines of pixel samples around a current block 100. Once the HoG is computed, the indices of the two or more (e.g., five) tallest histogram bars are selected as the implicitly derived intra prediction modes (IPMs, including M1 and M2) for the block. The predictions of the two or more selected intra prediction modes are blended with the prediction of the planar mode to generate the final DIMD prediction of the current block. II. Using DIMD HoGs of Neighboring CUs

[0035] The DIMD method described in Section I adopts the adjacent L shape with thickness of 3 samples to build the histogram of gradients (HoG) . Some embodiments of the disclosure provide methods of using HoGs from the neighboring CUs to build the HoG for the current CU for deriving the intra modes of the current CU. The HoGs may be already built and stored for those neighboring CUs, or regenerated on-the-fly based on reconstructed or predicted samples of the neighboring CUs.

[0036] FIG. 2 shows the neighboring regions and related neighboring CUs, from which the HoGs are used to build the HoG of the current CU. The neighboring CUs are from above / top region (A) , left region (L) , above / top-right region (AR) , above / top-left region (AL) and bottom-left region (BL) . In FIG. 2, the neighboring CUs are CU_A0, CU_A1, CU_A2, CU_ALC, CU_L0, CU_L1, CU_LB, CU_B0, CU_B1, CU_B2, CU_BRC, CU_R0, and CU_AR.

[0037] In the above / top region there are three CUs (CU_A0, CU_A1, CU_A2) adjacent to current CU. The left region has two adjacent CUs. Region AL and BL only has one CU adjacent to current CU. These adjacent CUs can be encoded as intra CUs and inter CUs.

[0038] A. HoGs Stored in Buffer

[0039] In some embodiments, for a I slice, all the neighboring CUs are intra CUs. Some of those intra CUs may be encoded with DIMD flag set true. For DIMD derivation process, a histogram of the gradients (HoG) is built to derive the intra modes for prediction blending. In some embodiments, HoG is not stored to be used for future CUs, and an extra buffer for storing the HoG is allocated. HoG is stored according to following (five) conditions: (C1) A CU is coded with DIMD mode (C2) A CU is not coded with DIMD mode but encoded with angular intra mode with the  angular intra mode has the highest HoG’s amplitude (C3) A CU is not coded with DIMD mode but encoded with angular intra mode with the  angular intra mode has the HoG’s amplitude among the first K highest amplitudes (C4) A CU is coded with angular intra mode (C5) Always store the HoG of a CU

[0040] Condition C1 to C3 can be applied individually. Otherwise, they can be applied jointly. For example, C1 and C2 can be used together as the condition for storing the HoG. Condition C2 is a limited version of C3 by setting the K to 1. For C1, DIMD flag in picture-level coding structure can be used for deciding the availability of the stored HoG. For C2 or C3, extra flag is required for checking the available of the HoG.

[0041] For current DIMD algorithm, the HoG comprises 65 bins for all possible angular intra modes. In some embodiments, all the bins of HoG are stored. However, to store all the bins of HoG imposes a high buffering storage requirement. Therefore, in some embodiments, only M bins (e.g., 10) with the highest amplitudes are stored. Otherwise, bins of HoG can be combined first before storing. For example, intra mode from 2 to 5 can be summed and shifted right by S bits (S can be zero for no shift at all) . For this example, S can be 2 for restoring the value range after summing the bins together. The stored HoGs are used in the coding methods proposed in the following sections.

[0042] B. DIMD inheritance mode

[0043] When encoding the current CU, available neighboring HoGs can be used to build an inherited HoG for the current CU. The video coder may not need to calculate the gradients of the L shape of the current CU and only use the bins from the stored neighboring HoGs to construct a HoG for the current CU.

[0044] In some embodiments, the HoG for the current CU may be constructed by averaging the neighboring HoGs. In some embodiments, weighted averaging of the neighboring HoGs can be used to construct the HoG of the current CU. In some embodiments, each neighboring HoG is assigned a weighting factor that is proportional to a confidence factor of the corresponding neighboring CU. The higher the confidence factor the higher assigned weight. The following formula shows the weighted averaging for HoGs from the top / above and left sides of FIG. 2 (assuming only the top / above and left sides neighboring CUs have valid HoGs) : (CF: confidence factor) BinCurrentCU [K] = {CF0*BinCU_A0 [K] + CF1*BinCU_A1 [K] +  CF2*BinCU_A2 [K] + CF3*BinCU_L0 [K] + CF4*BinCU_L1 [K] }  /  {CF0 + CF01 + CF02 + CF03 + CF04}

[0045] In some embodiments, the confidence factor is determined based on whether the neighboring CU is intra coded or not. For example, in some embodiments, if the CU used to build a neighboring HoG is intra-coded, the video coder may multiply a factor greater than one and / or adding an offset greater than zero to the confidence factor or weight. In some embodiments, if the CU used to build a neighboring HoG is inter-coded, the video coder may multiply a factor smaller than one and / or adding an offset less than zero to the confidence factor or weight. For another example, in some embodiment, an intra coded neighboring CU may have its confidence factor set to 3 for its HoG and inter coded neighboring CU may have its confidence factor set to 1 for its HoG.

[0046] In some embodiments, the statistics of HoG bin values is used to determine the confidence factor of a neighboring HoG. For example, higher confidence factor may be assigned to the neighboring HoG whose bin values have smaller standard deviation.

[0047] After building the HoG for the current CU (e.g., by using the weighted average of the HoGs of neighboring CUs) , the remaining steps of DIMD procedure can be applied for identifying intra modes with the highest accumulated gradient values for prediction blending operation. The CU coded by using this inherited HoG can be considered as using a sub mode of DIMD. An explicit flag may be signaled to indicate the usage of this DIMD sub-mode. In some embodiments, if the number of available neighboring HoGs is larger than a threshold T1 and / or the percentage of neighboring CUs having available HoGs is larger than a threshold T2, this DIMD sub mode is inferred to be used implicitly without explicit signaling.

[0048] With the added sub mode of DIMD by inheriting the HoG from neighboring CUs, the condition C1 from previous section can be extended. For example, in some embodiments, the valid neighboring HoG may come from CU coded with DIMD with sub-mode (inherited HoG) and / or CU coded without sub-mode (the original DIMD coding flow) turned on.

[0049] C. Prediction DIMD

[0050] For CU encoded with DIMD or DIMD inheritance mode, HoG is stored to be utilized for other CUs in DIMD inheritance mode. Furthermore, as mentioned above in Section II. B, for condition C5, HoG is always stored for every CU. However, some coding modes do not generate a HoG, and always storing the HoG requires extra computation to be done. At the encoder side, the problem is alleviated because RDO process tries many different coding modes, and the HoG can be saved and reused for modes that do not generate HoG. But for the decoder side, HoGs have to be generated when decoding CUs that require HoGs from neighboring CUs. One solution is to generate a HoG for every CU even if HoG is not available after reconstructing that CU. However, this may introduce too much increase in the decoding time for building the HoG, even when the HoG is not utilized in DIMD inheritance mode.

[0051] In some embodiments, a coding tool or mode may select its MTS (multiple transform selection) and LFNST (Low-Frequency Non-separable Secondary Transform) modes based on DIMD derived intra angle, in which the DIMD process is applied to the CU’s prediction samples (not the adjacent L-shape of reconstruction samples outside the CU) . Examples of such coding tools include MIP (matrix-based intra prediction) and EIP (extrapolation intra prediction) . Such a “prediction DIMD” process generates an available HoG for the current CU, even though the CU is not coded with DIMD or DIMD inheritance mode.

[0052] In some embodiments, for storing more HoG for inheritance and without introducing extra burden in decoder side, HoGs generated for CUs that are not coded by DIMD are stored, reused, and / or inherited. Examples of such HoGs available for reuse includes HoGs generated for non-angular intra coding modes (e.g., MIP, EIP, intraTMP, SGPM with MTS and LFNST selected by DIMD) and HoGs generated by certain prediction modes (e.g., TIMD, IBC GPM, CIIP, IBC CIIP) where intra MPM is derived and therefore DIMD process is conducted with HoG generated in the intermediate coding steps. Storing the HoGs generated by these modes does not put extra burden on decoder because the HoGs are required to be generated when decoding those CUs. These HoGs can be inherited by other CUs when coded with DIMD inheritance mode.

[0053] D. Augmented HoGs

[0054] Generating a HoG by accumulating the gradients of the reconstruction of a CU imposes computation burden, since generating HoGs involves accumulating the gradients of the neighboring L shape (as in original DIMD process) , the gradients from the CU prediction (as in prediction DIMD process) , or the gradients of the reconstruction of CU. Such computation burdens can be reduced by using augmented HoGs, which are HoGs in which the amplitude values of the bins are determined without gradient calculation. When seeking or collecting HoGs in the adjacent or non-adjacent regions of a CU, introducing and using augmented HoGs allows more HoGs to be found. FIG. 3 conceptually illustrates using augmented HoGs in addition to stored HoGs when coding a current CU 300 by DIMD inheritance mode.

[0055] As illustrated, the current CU 300 is coded by DIMD inheritance mode, and has seven stored HoGs available to be inherited from seven CUs 301-307 in the neighborhood of the current CU 300. These seven stored HoGs were derived by regular DIMD (gradient calculation) process based on samples in L-shaped regions neighboring these CUs. Based on three other CUs 321-323, the video coder generates three augmented HoGs in addition to the stored HoGs. The three augmented HoGs derived from CUs 321-323 are used in DIMD inheritance mode for the current CU 300.

[0056] An augmented HoG can be generated from a certain attribute of the CU. The condition C4 in Section II. Astates that HoG may be generated and stored from a CU coded with angular intra mode. This angular intra mode, assuming the corresponding angle is K, can be used to build an augmented HoG by the following pseudo code (augmented HoG generation pseudo code) : For i in all the intra angles: HoG [i] = 0 for i ! = K HoG [i] = H for i == K

[0057] HoG [i] is the bin amplitude at intra angle i. H is a value depending on the CU’s attributes, for example, CU size, variance of prediction or reconstruction samples, sum of absolute transform coefficients, or a mixture of multiple attributes (e.g., weighted sum of CU size and sum of absolute transform coefficients) . This augmented HoG is generated without any gradient calculation being applied on some area with pixel samples (prediction or reconstruction samples) . Therefore, augmented HoG can be generated on-the-fly and need not be generated in advance and stored in the HoG buffer.

[0058] In some embodiments, for some coding modes, there might be multiple angular intra modes identified and utilized for coding the CU, and these multiple angular intra modes may be utilized for generating this augmented HoG. Examples of coding modes that uses or identifies more than one angular intra modes include: DIMD (5 angular intra modes) , DIMD inheritance (5 angular intra modes) , TIMD (2 angular intra modes) , SGPM (2 angular intra modes) .

[0059] The following pseudo code can be used to construct an augmented HoG: For i in all the intra angles: HoG [i] = 0 for i not in {K0, K1, …Km-1} HoG [i] = (wt *H) for i in {K0, K1, …Km-1}

[0060] For a CU coded involving more than one angular intra modes, there may be more than one non-zero bins in the augmented HoG. A weight factor “wt” may be utilized for adjusting the importance of the bin. For some embodiments, the weight vector of SGPM can be (1, 1) for the two angular intra modes. The weight vector of TIMD can be (3, 1) for the two angular intra modes. The weight vector of DIMD can be set proportionally to the DIMD blending weights for the five angular intra modes. In some embodiments, equal weighting is applied to all the modes where “wt” is always set to one. Each non-zero bin is initialized by CU’s attributes, such as CU size, variance of prediction or reconstruction samples, sum of absolute transform coefficients, or a mixture of multiple attributes. The bin value may then be multiplied by the weight factor “wt” . An optional normalization process that divides the bin values with sum of the weights can be performed for keeping the dynamic range of the bin values.

[0061] For coding tools or modes without intra angular modes, including MIP, EIP, intraTMP, and IBC, augmented HoG can be generation by applying DIMD process on the reconstruction samples (referred as reconstruction DIMD in CU level) to obtain the representative angular intra modes of the CU. Then the augmented HoG can be generated based on the representative angular intra modes using the augmented HoG generation pseudo code described above.

[0062] In some embodiments all angular intra modes derived from DIMD are utilized in building the augmented HoG. In some embodiments, angular intra modes derived from the DIMD process are utilized partially. For example, in some embodiments, only first N angular intra modes with highest bin amplitudes from the HoG are used in augmented HoG generation (amplitudes of other angular modes are set to zero) . N can be a number from 1 to M (M is the maximal number of angular intra modes derived from DIMD process) . If N = 1, only one angular intra mode is used in augmented HoG generation. If N = 3, three angular intra modes are used in augmented HoG generation. Either equal weights or weights proportional to the DIMD blending weights may be used for HoG generation.

[0063] In some embodiments, for CU coding modes without intra angular mode, such as MIP, EIP, intraTMP, and IBC, augmented HoG can be generated by (i) applying the DIMD process on the prediction samples (referred to as prediction DIMD in CU level) to obtain the representative angular intra modes of the CU and (ii) building the augmented HoG with using the augmented HoG generation pseudo codes with the derived angular intra modes utilized fully or partially.

[0064] In some embodiments, instead of using the two angular intra modes of SGPM, the partition angle of SGPM is used to derive the angular intra mode for building the augmented HoG. This derived angular intra mode may differ from the two angular intra modes used to predict the two partitions of SGPM. In some embodiments, multiple angular intra modes (e.g., two) are derived from the SGPM partition angle. The angular resolution of the partition angle of SGPM is different from the angular resolution of the available angular modes (currently 65 for VVC) . Therefore, deriving two angular modes can compensate for the difference of angular resolution.

[0065] In addition, different weights can be assigned to the derived multiple angular modes. In some embodiments, the number of the derived angular modes can one or more than one for certain partition angle of SGPM. For some embodiments, a look-up-table (LUT) indexed by the partition angle of the SGPM can be used to provide the information of the derived one or more than one angular modes and their corresponding histogram amplitude weights ( “wt” ) for generating the augmented HoG. As mentioned, the amplitude of the HoG depends on certain CU’s attribute, for example CU size, variance of prediction or reconstruction samples, sum of absolute transform coefficients, or a mixture of multiple attributes (which is reflected in the “H” term of the pseudo code for building the augment HoG) . The amplitude can be further modified by multiplying the amplitude weights ( “wt” ) provided by the LUT.

[0066] In some embodiments, the partition angle of GPM mode from an inter coded CU can be utilized to derive one or more than one angular modes and their corresponding histogram amplitude weights ( “wt” ) for generating the augmented HoG.

[0067] FIG. 4 illustrates an example augmented HoG 410 that is derived for a block 400. The block 400 has transform coefficients. In some embodiments, the two or more (e.g., five) phases or angular modes of the augmented HoG are identified by an existing coding mode process of the block 400 without gradient calculations. In some embodiments, the phases or angular modes of the augmented HoG is derived by a DIMD process on the reconstruction samples of the block 400. The amplitudes of the augmented HoG are determined by the sum of the absolute values of the transform coefficients of the block. In the example, the sum of the absolute values of the transform coefficients is 9 + 2 + |-1| = 12, so the amplitude (s) at the DIMD derived phases are 12 for the augmented HoG.

[0068] FIG. 5 illustrates an augmented HoG 500 that is derived for a SGPM / GPM coded block based on the SGPM / GPM partition edge. As illustrated, a LUT 510 is used to provide the phases or angular modes (Ma and Mb) and their corresponding weighting factors (wta and wtb) for the augmented HoG 500, based on the SGPM / GPM partition angle. The HoG amplitudes at those angular modes (Ma and Mb) are determined by multiplying the variance of the reconstruction samples (RECvar) of the current block with the corresponding weighting factors (wta and wtb) .

[0069] E. Regenerate HoG by Reconstruction DIMD

[0070] In some embodiments, a HoG can be obtained by applying the DIMD process on the reconstructed samples of a CU in the neighborhood or vicinity of the current block. In some embodiments, regardless of the coding mode used to reconstruct the neighboring CU, angular intra modes can be derived by applying DIMD process on the reconstruction samples of the neighboring CU. This process is referred to as the reconstruction DIMD, where calculation of the gradients is applied to the entire reconstructed CU (instead of the top / above and left L-shape neighboring region) to regenerate a HoG.

[0071] For example, if the current CU is coded by DIMD, a HoG generated based on the neighboring reconstruction samples of L shape outside of the current CU may be available (stored in a HoG buffer) and can be used for DIMD inheritance coding mode for the current CU. However, the reconstruction DIMD process may still be applied to a neighboring CU of the current CU to generate an alternative HoG. Using this alternative HoG for DIMD inheritance coding mode of the current CU may attain higher coding gain.

[0072] In some embodiments, even if the neighboring CU is already associated with a HoG stored in the HoG buffer, the reconstruction DIMD process can still be applied to the neighboring CU to generate a HoG. For example, when the neighboring CU is coded by DIMD inheritance mode, the HoG associated with the neighboring CU is inherited and stored in the HoG buffer. When the reconstruction DIMD process is applied to this neighboring CU, an alternative HoG is generated. When performing DIMD inheritance mode for the current block, using this alternative (reconstruction) HoG instead of the stored (inherited) HoG of the neighboring CU may attain higher coding gain.

[0073] FIG. 6 conceptually illustrates using a HoG generated by the reconstruction DIMD process for coding a current CU 600. As illustrated, the current CU 600 is coded by DIMD inheritance mode, and has seven stored HoGs available to be inherited from seven CUs 601-607 in the neighborhood. At least some of these seven stored HoGs were derived by regular DIMD (gradient calculation) process based on samples in L-shaped regions neighboring these CUs. However, the video coder regenerates HoG based on the reconstructed samples of some of the neighboring CUs in addition to the stored HoGs. For example, the CU 604 already has a stored regular DIMD HoG 614 generated based on its adjacent L-shape region 634, but another HoG 624 is regenerated based on the reconstructed samples of the CU 604. This regenerated HoG 604 is used in DIMD inheritance mode for the current CU 600.

[0074] In some embodiments, a syntax flag is signaled for the current CU to determine the HoG used in DIMD inheritance coding mode. There are two sources of the HoG: the one stored in HoG buffer and the one generated by reconstruction DIMD process. This flag indicates which HoG source is selected for the DIMD inheritance coding mode.

[0075] F. Regenerate HoG by Prediction DIMD

[0076] In some embodiments, a HoG can be obtained by applying the DIMD process on the prediction samples of an already reconstructed CU in the vicinity of the current block. The DIMD process can be performed on the prediction samples generated by prediction modes such as MIP, EIP, IntraTMP, etc. All the methods described in Section II. E for reconstruction DIMD process are valid for prediction DIMD process.

[0077] G. Augmented HoG, Prediction DIMD, and Reconstruction DIMD

[0078] In some embodiments, a new type of HoG is derived for DIMD inheritance mode. An explicit flag may be signaled for enabling the DIMD processes described in Sections II. E and II. F. If the flag is not signaled, then the amplitudes in the HoG bins are the accumulated gradients. If another flag is signaled to indicate augmented HoG is to be used, the amplitudes can be further replaced by certain attributes of the CU such as CU size, variance of prediction or reconstruction samples, sum of absolute transform coefficients, or a mixture of multiple attributes (which is reflected in the “H” term of the pseudo code for building the augment HoG) as described in Section II. D above.

[0079] In some embodiments, the video coder may replace the gradient-based amplitudes of the regenerated HoG (by prediction DIMD or reconstruction DIMD) by non-gradient based amplitudes (such as those generated for an augmented HoG described in Section II. D above) . In some of these embodiments, only the N angular modes / directions with the largest gradient are replaced with non-zero amplitudes, while amplitudes of other angular modes / directions are set to zero. The non-zero amplitudes are derived from CU size, variance of prediction or reconstruction samples, sum of absolute transform coefficients, or a mixture of multiple attributes. In some embodiments, only phases  / angular modes / directions identified by DIMD process are kept for the regenerated HoG.

[0080] Any of the foregoing proposed methods can be applied to both DIMD luma and DIMD chroma derivation process.

[0081] Any of the foregoing proposed methods can be implemented in encoders and / or decoders. For example, any of the proposed methods can be implemented in an inter / intra / prediction module of an encoder, and / or an inter / intra / prediction module of a decoder. Alternatively, any of the proposed methods can be implemented as a circuit coupled to the inter / intra / prediction module of the encoder and / or the inter / intra / prediction module of the decoder, so as to provide the information needed by the inter / intra / prediction module. III. Example Video Encoder

[0082] FIG. 7 illustrates an example video encoder 700 that may implement DIMD intra-prediction. As illustrated, the video encoder 700 receives input video signal from a video source 705 and encodes the signal into bitstream 795. The video encoder 700 has several components or modules for encoding the signal from the video source 705, at least including some components selected from a transform module 710, a quantization module 711, an inverse quantization module 714, an inverse transform module 715, an intra-picture estimation module 724, an intra-prediction module 725, a motion compensation module 730, a motion estimation module 735, an in-loop filter 745, a reconstructed picture buffer 750, a MV buffer 765, and a MV prediction module 775, and an entropy encoder 790. The motion compensation module 730 and the motion estimation module 735 are part of an inter-prediction module 740. The intra-prediction module 725 and the intra-prediction estimation module 724 are part of a current picture prediction module 720, which uses current picture reconstructed samples as reference samples for prediction of the current block.

[0083] In some embodiments, the modules 710 –790 are modules of software instructions being executed by one or more processing units (e.g., a processor) of a computing device or electronic apparatus. In some embodiments, the modules 710 –790 are modules of hardware circuits implemented by one or more integrated circuits (ICs) of an electronic apparatus. Though the modules 710 –790 are illustrated as being separate modules, some of the modules can be combined into a single module.

[0084] The video source 705 provides a raw video signal that presents pixel data of each video frame without compression. A subtractor 708 computes the difference between the raw video pixel data of the video source 705 and the predicted pixel data 713 from the motion compensation module 730 or intra-prediction module 725 as prediction residual 709. The transform module 710 converts the difference (or the residual pixel data or residual signal 708) into transform coefficients (e.g., by performing Discrete Cosine Transform, or DCT) . The quantization module 711 quantizes the transform coefficients into quantized data (or quantized coefficients) 712, which is encoded into the bitstream 795 by the entropy encoder 790.

[0085] The inverse quantization module 714 de-quantizes the quantized data (or quantized coefficients) 712 to obtain transform coefficients 718, and the inverse transform module 715 performs inverse transform on the transform coefficients 718 to produce reconstructed residual 719. The reconstructed residual 719 is added with the predicted pixel data 713 to produce reconstructed pixel data 717. In some embodiments, the reconstructed pixel data 717 is temporarily stored in a line buffer 727 (or intra prediction buffer) for intra-picture prediction and spatial MV prediction. The reconstructed pixels are filtered by the in-loop filter 745 and stored in the reconstructed picture buffer 750. In some embodiments, the reconstructed picture buffer 750 is a storage external to the video encoder 700. In some embodiments, the reconstructed picture buffer 750 is a storage internal to the video encoder 700.

[0086] The intra-picture estimation module 724 performs intra-prediction based on the reconstructed pixel data 717 to produce intra prediction data. The intra-prediction data is provided to the entropy encoder 790 to be encoded into bitstream 795. The intra-prediction data is also used by the intra-prediction module 725 to produce the predicted pixel data 713.

[0087] The motion estimation module 735 performs inter-prediction by producing MVs to reference pixel data of previously decoded frames stored in the reconstructed picture buffer 750. These MVs are provided to the motion compensation module 730 to produce predicted pixel data.

[0088] Instead of encoding the complete actual MVs in the bitstream, the video encoder 700 uses MV prediction to generate predicted MVs, and the difference between the MVs used for motion compensation and the predicted MVs is encoded as residual motion data and stored in the bitstream 795.

[0089] The MV prediction module 775 generates the predicted MVs based on reference MVs that were generated for encoding previously video frames, i.e., the motion compensation MVs that were used to perform motion compensation. The MV prediction module 775 retrieves reference MVs from previous video frames from the MV buffer 765. The video encoder 700 stores the MVs generated for the current video frame in the MV buffer 765 as reference MVs for generating predicted MVs.

[0090] The MV prediction module 775 uses the reference MVs to create the predicted MVs. The predicted MVs can be computed by spatial MV prediction or temporal MV prediction. The difference between the predicted MVs and the motion compensation MVs (MC MVs) of the current frame (residual motion data) are encoded into the bitstream 795 by the entropy encoder 790.

[0091] The entropy encoder 790 encodes various parameters and data into the bitstream 795 by using entropy-coding techniques such as context-adaptive binary arithmetic coding (CABAC) or Huffman encoding. The entropy encoder 790 encodes various header elements, flags, along with the quantized transform coefficients 712, and the residual motion data as syntax elements into the bitstream 795. The bitstream 795 is in turn stored in a storage device or transmitted to a decoder over a communications medium such as a network.

[0092] The in-loop filter 745 performs filtering or smoothing operations on the reconstructed pixel data 717 to reduce the artifacts of coding, particularly at boundaries of pixel blocks. In some embodiments, the filtering or smoothing operations performed by the in-loop filter 745 include deblock filter (DBF) , sample adaptive offset (SAO) , and / or adaptive loop filter (ALF) . In some embodiments, luma mapping chroma scaling (LMCS) is performed before the loop filters.

[0093] FIG. 8 illustrates portions of the video encoder 700 that implement DIMD inheritance mode. Specifically, the figure illustrates the components of the intra-prediction module 740 that performs DIMD and generates the predicted pixel data 713.

[0094] As illustrated, a L-shape gradient calculation module 810 performs gradient calculation for the DIMD process based on samples in the L-shape region adjacent to the current block. The samples of the L-shape region are provided by the line buffer 727. The result of the gradient calculation is accumulated to be a regular DIMD HoG 820 of the current block. This regular HoG 820 may be used to identify two or more angular directions for regular DIMD prediction of the current block. This regular HoG 820 is also stored in a HoG storage 825 to be inherited by a subsequent block for implementing DIMD inheritance mode.

[0095] The HoGs stored in the HoG storage 825 from various neighboring blocks or CUs in a vicinity of the current block may be retrieved by a HoG inheritance module 860. The HoG inheritance module 860 may also obtain additional HoGs for from an augmented HoG generation module 850 and a regenerated HoG generation module 840. The HoGs received by the HoG inheritance module 860 are blended into a current HoG 865 (by e.g., weighted averaging of bin values as described in Section II. B) . A DIMD intra-prediction module 870 uses the current HoG 865 to generate a DIMD prediction of the current block as the predicted pixel data 713, by identifying two or more intra-prediction directions and blending the two or more corresponding predictions to become the final DIMD prediction.

[0096] The augmented HoG generation module 850 uses coding information of previously coded blocks to generate augmented HoGs of certain neighboring blocks as described in Section II. D above. In some embodiments, the coding information of previously reconstructed blocks required for generating an augmented HoG are stored in the reconstructed picture buffer 750.

[0097] The regenerated HoG generation module 840 uses reconstructed samples or predicted samples of previously coded blocks stored in the reconstructed picture buffer 750 to regenerate HoGs of certain neighboring blocks as described in Section II. E and Section II. F above. A block gradient calculation module 830 performs gradient calculation for the DIMD process based on samples inside a neighboring block to regenerate the HoG of that block, even if a HoG has already been generated and stored in the storage 825 based on the L-shape adjacent region of that neighboring block. If the regenerated HoG is to be generated based on predicted samples of the neighboring block, the prediction coding tool 820 that was used for coding that neighboring block may be invoked to perform the prediction.

[0098] FIG. 9 conceptually illustrates a process 900 for using DIMD inheritance mode to encode a pixel block. In some embodiments, one or more processing units (e.g., a processor) of a computing device implementing the encoder 700 performs the process 900 by executing instructions stored in a computer readable medium. In some embodiments, an electronic apparatus implementing the encoder 700 performs the process 900.

[0099] The encoder receives (at block 910) data to be encoded as a current block of pixels in a current picture. The encoder derives (at block 920) a current histogram of gradients (HoG) for the current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block. The inherited HoGs may include at least one previously stored HoG that is derived by gradient calculation of samples in an L-shaped adjacent region of a neighboring block.

[0100] In some embodiments, the current HoG is derived by a weighted sum of the one or more inherited HoGs, with each of the inherited HoGs weighted according to a confidence factor associated with the neighboring block providing the inherited HoG. For example, in some embodiments, higher confidence factors are assigned for intra-coded neighboring blocks and lower confidence factors are assigned for inter-coded neighboring blocks with HoGs propagated by motion vectors or block vectors. Confidence factor may also be determined based on statistics of the neighborhood such as texture.

[0101] In some embodiments, whether to encode or decode the current block by using the inherited HoGs is determined based on a number or a percentage of the neighboring CUs having an available HoG for inheritance by the current block.

[0102] In some embodiments, at least one of the inherited HoGs is an augmented HoG that is derived without gradient calculation. In some embodiments, the augmented HoG specifies amplitudes that are derived from a characteristic of a neighboring block. Examples of such a characteristic include: block size, variance of prediction samples, variance of reconstruction samples, and sum of absolute transform coefficients. In some embodiments, the augmented HoG specifies one or more intra-prediction directions that are provided by a coding tool used to encode or decode a neighboring block. Examples of such coding mode include: single angular mode intra prediction, angular modes of inherited DIMD, TIMD, SGPM, reconstruction DIMD, prediction DIMD based on MIP / EIP / IntraTMP / IBC, etc. For example, a partition angle specified by a geometric partitioning of the neighboring block can be used to specify the two or more intra-prediction directions of the augmented HoG and a weighting factor for the amplitude at each of the two or more intra-prediction directions of the augmented HoG.

[0103] The inherited HoGs may include at least one regenerated HoG that is derived by gradient calculation of reconstructed samples of a neighboring block. In some embodiments, the inherited HoGs may include at least one regenerated HoG that is derived by gradient calculation of predicted samples of a neighboring block. The predicted samples may be generated by inter or intra prediction coding tools such as MIP / EIP / IntraTMP / IBC, etc. In some embodiments, the inherited HoGs may include at least one HoG that is re-generated for a neighboring block that already has a HoG that is stored and available for inheritance by the current block.

[0104] The encoder identifies (at block 930) two or more intra-prediction directions based on the current HoG. The encoder encodes (at block 940) the current block by using the identified intra-prediction directions to generate a prediction of the current block. Specifically, the encoder generates a DIMD prediction by blending the predictions of the identified intra-prediction directions with the prediction of the planar mode. The prediction of the current block is used to produce prediction residuals. IV. Example Video Decoder

[0105] In some embodiments, an encoder may signal (or generate) one or more syntax element in a bitstream, such that a decoder may parse said one or more syntax element from the bitstream.

[0106] FIG. 10 illustrates an example video decoder 1000 that may implement DIMD intra-prediction. As illustrated, the video decoder 1000 is an image-decoding or video-decoding circuit that receives a bitstream 1095 and decodes the content of the bitstream into pixel data of video frames for display. The video decoder 1000 has several components or modules for decoding the bitstream 1095, including some components selected from an inverse quantization module 1014, an inverse transform module 1015, an intra-prediction module 1025, a motion compensation module 1030, an in-loop filter 1045, a decoded picture buffer 1050, a MV buffer 1065, a MV prediction module 1075, and a parser 1090. The motion compensation module 1030 is part of an inter-prediction module 1040. The intra-prediction module 1025 is part of a current picture prediction module 1020, which uses current picture reconstructed samples as reference samples for prediction of the current block.

[0107] In some embodiments, the modules 1014 –1090 are modules of software instructions being executed by one or more processing units (e.g., a processor) of a computing device. In some embodiments, the modules 1014 –1090 are modules of hardware circuits implemented by one or more ICs of an electronic apparatus. Though the modules 1014 –1090 are illustrated as being separate modules, some of the modules can be combined into a single module.

[0108] The parser 1090 (or entropy decoder) receives the bitstream 1095 and performs initial parsing according to the syntax defined by a video-coding or image-coding standard. The parsed syntax element includes various header elements, flags, as well as quantized data (or quantized coefficients) 1012. The parser 1090 parses out the various syntax elements by using entropy-coding techniques such as context-adaptive binary arithmetic coding (CABAC) or Huffman encoding.

[0109] The inverse quantization module 1014 de-quantizes the quantized data (or quantized coefficients) 1012 to obtain transform coefficients, and the inverse transform module 1015 performs inverse transform on the transform coefficients 1018 to produce reconstructed residual signal 1019. The reconstructed residual signal 1019 is added with predicted pixel data 1013 from the intra-prediction module 1025 or the motion compensation module 1030 to produce decoded pixel data 1017. The decoded pixels data are filtered by the in-loop filter 1045 and stored in the decoded picture buffer 1050. In some embodiments, the decoded picture buffer 1050 is a storage external to the video decoder 1000. In some embodiments, the decoded picture buffer 1050 is a storage internal to the video decoder 1000.

[0110] The intra-prediction module 1025 receives intra-prediction data from bitstream 1095 and according to which, produces the predicted pixel data 1013 from the decoded pixel data 1017 stored in the decoded picture buffer 1050. In some embodiments, the decoded pixel data 1017 is also stored in a line buffer 1027 (or intra prediction buffer) for intra-picture prediction and spatial MV prediction.

[0111] In some embodiments, the content of the decoded picture buffer 1050 is used for display. A display device 1005 either retrieves the content of the decoded picture buffer 1050 for display directly, or retrieves the content of the decoded picture buffer to a display buffer. In some embodiments, the display device receives pixel values from the decoded picture buffer 1050 through a pixel transport.

[0112] The motion compensation module 1030 produces predicted pixel data 1013 from the decoded pixel data 1017 stored in the decoded picture buffer 1050 according to motion compensation MVs (MC MVs) . These motion compensation MVs are decoded by adding the residual motion data received from the bitstream 1095 with predicted MVs received from the MV prediction module 1075.

[0113] The MV prediction module 1075 generates the predicted MVs based on reference MVs that were generated for decoding previous video frames, e.g., the motion compensation MVs that were used to perform motion compensation. The MV prediction module 1075 retrieves the reference MVs of previous video frames from the MV buffer 1065. The video decoder 1000 stores the motion compensation MVs generated for decoding the current video frame in the MV buffer 1065 as reference MVs for producing predicted MVs.

[0114] The in-loop filter 1045 performs filtering or smoothing operations on the decoded pixel data 1017 to reduce the artifacts of coding, particularly at boundaries of pixel blocks. In some embodiments, the filtering or smoothing operations performed by the in-loop filter 1045 include deblock filter (DBF) , sample adaptive offset (SAO) , and / or adaptive loop filter (ALF) . In some embodiments, luma mapping chroma scaling (LMCS) is performed before the loop filters.

[0115] FIG. 11 illustrates portions of the video decoder 1000 that implement DIMD inheritance mode. Specifically, the figure illustrates the components of the intra-prediction module 1040 that performs DIMD and generates the predicted pixel data 1013.

[0116] As illustrated, a L-shape gradient calculation module 1110 performs gradient calculation for the DIMD process based on samples in the L-shape region adjacent to the current block. The samples of the L-shape region are provide by the line buffer 1027. The result of the gradient calculation is accumulated to be a regular DIMD HoG 1120 of the current block. This regular HoG 1120 may be used to identify two or more angular directions for regular DIMD prediction of the current block. This regular HoG 1120 is also stored in a HoG storage 1125 to be inherited by a subsequent block for implementing DIMD inheritance mode.

[0117] The HoGs stored in the HoG storage 1125 from various neighboring blocks or CUs in a vicinity of the current block may be retrieved by a HoG inheritance module 1160. The HoG inheritance module 1160 may also obtain additional HoGs for from an augmented HoG generation module 1150 and a regenerated HoG generation module 1140. The HoGs received by the HoG inheritance module 1160 are blended into a current HoG 1165 (by e.g., weighted averaging of bin values as described in Section II. B) . A DIMD intra-prediction module 1170 uses the current HoG 1165 to generate a DIMD prediction of the current block as the predicted pixel data 1013, by identifying two or more intra-prediction directions and blending the two or more corresponding predictions to become the final DIMD prediction.

[0118] The augmented HoG generation module 1150 uses coding information of previously coded blocks to generate augmented HoGs of certain neighboring blocks as described in Section II. D above. In some embodiments, the coding information of previously reconstructed blocks required for generating an augmented HoG are stored in the decoded picture buffer 1050.

[0119] The regenerated HoG generation module 1140 uses reconstructed samples or predicted samples of previously coded blocks stored in the decoded picture buffer 1050 to regenerate HoGs of certain neighboring blocks as described in Section II. E and Section II. F above. A block gradient calculation module 1130 performs gradient calculation for the DIMD process based on samples inside a neighboring block to regenerate the HoG of that block, even if a HoG has already been generated and stored in the storage 1125 based on the L-shape adjacent region of that neighboring block. If the regenerated HoG is to be generated based on predicted samples of the neighboring block, the prediction coding tool 1120 that was used for coding that neighboring block may be invoked to perform the prediction.

[0120] FIG. 12 conceptually illustrates a process 1200 for using DIMD inheritance mode to decode a pixel block. In some embodiments, one or more processing units (e.g., a processor) of a computing device implementing the decoder 1000 performs the process 1200 by executing instructions stored in a computer readable medium. In some embodiments, an electronic apparatus implementing the decoder 1000 performs the process 1200.

[0121] The decoder receives (at block 1210) data to be decoded as a current block of pixels in a current picture. The decoder derives (at block 1220) a current histogram of gradients (HoG) for the current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block. The inherited HoGs may include at least one previously stored HoG that is derived by gradient calculation of samples in an L-shaped adjacent region of a neighboring block.

[0122] In some embodiments, the current HoG is derived by a weighted sum of the one or more inherited HoGs, with each of the inherited HoGs weighted according to a confidence factor associated with the neighboring block providing the inherited HoG. For example, in some embodiments, higher confidence factors are assigned for intra-coded neighboring blocks and lower confidence factors are assigned for inter-coded neighboring blocks with HoGs propagated by motion vectors or block vectors. Confidence factor may also be determined based on statistics of the neighborhood such as texture.

[0123] In some embodiments, whether to decode or decode the current block by using the inherited HoGs is determined based on a number or a percentage of the neighboring CUs having an available HoG for inheritance by the current block.

[0124] In some embodiments, at least one of the inherited HoGs is an augmented HoG that is derived without gradient calculation. In some embodiments, the augmented HoG specifies amplitudes that are derived from a characteristic of a neighboring block. Examples of such a characteristic include: block size, variance of prediction samples, variance of reconstruction samples, and sum of absolute transform coefficients. In some embodiments, the augmented HoG specifies one or more intra-prediction directions that are provided by a coding tool used to decode or decode a neighboring block. Examples of such coding mode include: single angular mode intra prediction, angular modes of inherited DIMD, TIMD, SGPM, reconstruction DIMD, prediction DIMD based on MIP / EIP / IntraTMP / IBC, etc. For example, a partition angle specified by a geometric partitioning of the neighboring block can be used to specify the two or more intra-prediction directions of the augmented HoG and a weighting factor for the amplitude at each of the two or more intra-prediction directions of the augmented HoG.

[0125] The inherited HoGs may include at least one regenerated HoG that is derived by gradient calculation of reconstructed samples of a neighboring block. In some embodiments, the inherited HoGs may include at least one regenerated HoG that is derived by gradient calculation of predicted samples of a neighboring block. The predicted samples may be generated by inter or intra prediction coding tools such as MIP / EIP / IntraTMP / IBC, etc. In some embodiments, the inherited HoGs may include at least one HoG that is re-generated for a neighboring block that already has a HoG that is stored and available for inheritance by the current block.

[0126] The decoder identifies (at block 1230) two or more intra-prediction directions based on the current HoG. The decoder reconstructs (at block 1240) the current block by using the identified intra-prediction directions to generate a prediction of the current block to be combined with prediction residuals. Specifically, the decoder generates a DIMD prediction by blending the predictions of the identified intra-prediction directions with the prediction of the planar mode. The decoder may then provide the reconstructed current block for display as part of the reconstructed current picture. V.Example Electronic System

[0127] Many of the above-described features and applications are implemented as software processes that are specified as a set of instructions recorded on a computer readable storage medium (also referred to as computer readable medium) . When these instructions are executed by one or more computational or processing unit (s) (e.g., one or more processors, cores of processors, or other processing units) , they cause the processing unit (s) to perform the actions indicated in the instructions. Examples of computer readable media include, but are not limited to, CD-ROMs, flash drives, random-access memory (RAM) chips, hard drives, erasable programmable read only memories (EPROMs) , electrically erasable programmable read-only memories (EEPROMs) , etc. The computer readable media does not include carrier waves and electronic signals passing wirelessly or over wired connections.

[0128] In this specification, the term “software” is meant to include firmware residing in read-only memory or applications stored in magnetic storage which can be read into memory for processing by a processor. Also, in some embodiments, multiple software inventions can be implemented as sub-parts of a larger program while remaining distinct software inventions. In some embodiments, multiple software inventions can also be implemented as separate programs. Finally, any combination of separate programs that together implement a software invention described here is within the scope of the present disclosure. In some embodiments, the software programs, when installed to operate on one or more electronic systems, define one or more specific machine implementations that execute and perform the operations of the software programs.

[0129] FIG. 13 conceptually illustrates an electronic system 1300 with which some embodiments of the present disclosure are implemented. The electronic system 1300 may be a computer (e.g., a desktop computer, personal computer, tablet computer, etc. ) , phone, PDA, or any other sort of electronic device. Such an electronic system includes various types of computer readable media and interfaces for various other types of computer readable media. Electronic system 1300 includes a bus 1305, processing unit (s) 1310, a graphics-processing unit (GPU) 1315, a system memory 1320, a network 1325, a read-only memory 1330, a permanent storage device 1335, input devices 1340, and output devices 1345.

[0130] The bus 1305 collectively represents all system, peripheral, and chipset buses that communicatively connect the numerous internal devices of the electronic system 1300. For instance, the bus 1305 communicatively connects the processing unit (s) 1310 with the GPU 1315, the read-only memory 1330, the system memory 1320, and the permanent storage device 1335.

[0131] From these various memory units, the processing unit (s) 1310 retrieves instructions to execute and data to process in order to execute the processes of the present disclosure. The processing unit (s) may be a single processor or a multi-core processor in different embodiments. Some instructions are passed to and executed by the GPU 1315. The GPU 1315 can offload various computations or complement the image processing provided by the processing unit (s) 1310.

[0132] The read-only-memory (ROM) 1330 stores static data and instructions that are used by the processing unit (s) 1310 and other modules of the electronic system. The permanent storage device 1335, on the other hand, is a read-and-write memory device. This device is a non-volatile memory unit that stores instructions and data even when the electronic system 1300 is off. Some embodiments of the present disclosure use a mass-storage device (such as a magnetic or optical disk and its corresponding disk drive) as the permanent storage device 1335.

[0133] Other embodiments use a removable storage device (such as a floppy disk, flash memory device, etc., and its corresponding disk drive) as the permanent storage device. Like the permanent storage device 1335, the system memory 1320 is a read-and-write memory device. However, unlike storage device 1335, the system memory 1320 is a volatile read-and-write memory, such a random access memory. The system memory 1320 stores some of the instructions and data that the processor uses at runtime. In some embodiments, processes in accordance with the present disclosure are stored in the system memory 1320, the permanent storage device 1335, and / or the read-only memory 1330. For example, the various memory units include instructions for processing multimedia clips in accordance with some embodiments. From these various memory units, the processing unit (s) 1310 retrieves instructions to execute and data to process in order to execute the processes of some embodiments.

[0134] The bus 1305 also connects to the input and output devices 1340 and 1345. The input devices 1340 enable the user to communicate information and select commands to the electronic system. The input devices 1340 include alphanumeric keyboards and pointing devices (also called “cursor control devices” ) , cameras (e.g., webcams) , microphones or similar devices for receiving voice commands, etc. The output devices 1345 display images generated by the electronic system or otherwise output data. The output devices 1345 include printers and display devices, such as cathode ray tubes (CRT) or liquid crystal displays (LCD) , as well as speakers or similar audio output devices. Some embodiments include devices such as a touchscreen that function as both input and output devices.

[0135] Finally, as shown in FIG. 13, bus 1305 also couples electronic system 1300 to a network 1325 through a network adapter (not shown) . In this manner, the computer can be a part of a network of computers (such as a local area network ( “LAN” ) , a wide area network ( “WAN” ) , or an Intranet, or a network of networks, such as the Internet. Any or all components of electronic system 1300 may be used in conjunction with the present disclosure.

[0136] Some embodiments include electronic components, such as microprocessors, storage and memory that store computer program instructions in a machine-readable or computer-readable medium (alternatively referred to as computer-readable storage media, machine-readable media, or machine-readable storage media) . Some examples of such computer-readable media include RAM, ROM, read-only compact discs (CD-ROM) , recordable compact discs (CD-R) , rewritable compact discs (CD-RW) , read-only digital versatile discs (e.g., DVD-ROM, dual-layer DVD-ROM) , a variety of recordable / rewritable DVDs (e.g., DVD-RAM, DVD-RW, DVD+RW, etc. ) , flash memory (e.g., SD cards, mini-SD cards, micro-SD cards, etc. ) , magnetic and / or solid state hard drives, read-only and recordable  discs, ultra-density optical discs, any other optical or magnetic media, and floppy disks. The computer-readable media may store a computer program that is executable by at least one processing unit and includes sets of instructions for performing various operations. Examples of computer programs or computer code include machine code, such as is produced by a compiler, and files including higher-level code that are executed by a computer, an electronic component, or a microprocessor using an interpreter.

[0137] While the above discussion primarily refers to microprocessor or multi-core processors that execute software, many of the above-described features and applications are performed by one or more integrated circuits, such as application specific integrated circuits (ASICs) or field programmable gate arrays (FPGAs) . In some embodiments, such integrated circuits execute instructions that are stored on the circuit itself. In addition, some embodiments execute software stored in programmable logic devices (PLDs) , ROM, or RAM devices.

[0138] As used in this specification and any claims of this application, the terms “computer” , “server” , “processor” , and “memory” all refer to electronic or other technological devices. These terms exclude people or groups of people. For the purposes of the specification, the terms display or displaying means displaying on an electronic device. As used in this specification and any claims of this application, the terms “computer readable medium, ” “computer readable media, ” and “machine readable medium” are entirely restricted to tangible, physical objects that store information in a form that is readable by a computer. These terms exclude any wireless signals, wired download signals, and any other ephemeral signals.

[0139] While the present disclosure has been described with reference to numerous specific details, one of ordinary skill in the art will recognize that the present disclosure can be embodied in other specific forms without departing from the spirit of the present disclosure. In addition, a number of the figures (including FIG. 9 and FIG. 12) conceptually illustrate processes. The specific operations of these processes may not be performed in the exact order shown and described. The specific operations may not be performed in one continuous series of operations, and different specific operations may be performed in different embodiments. Furthermore, the process could be implemented using several sub-processes, or as part of a larger macro process. Thus, one of ordinary skill in the art would understand that the present disclosure is not to be limited by the foregoing illustrative details, but rather is to be defined by the appended claims. Additional Notes

[0140] The herein-described subject matter sometimes illustrates different components contained within, or connected with, different other components. It is to be understood that such depicted architectures are merely examples, and that in fact many other architectures can be implemented which achieve the same functionality. In a conceptual sense, any arrangement of components to achieve the same functionality is effectively "associated" such that the desired functionality is achieved. Hence, any two components herein combined to achieve a particular functionality can be seen as "associated with" each other such that the desired functionality is achieved, irrespective of architectures or intermediate components. Likewise, any two components so associated can also be viewed as being "operably connected" , or "operably coupled" , to each other to achieve the desired functionality, and any two components capable of being so associated can also be viewed as being "operably couplable" , to each other to achieve the desired functionality. Specific examples of operably couplable include but are not limited to physically mateable and / or physically interacting components and / or wirelessly interactable and / or wirelessly interacting components and / or logically interacting and / or logically interactable components.

[0141] Further, with respect to the use of substantially any plural and / or singular terms herein, those having skill in the art can translate from the plural to the singular and / or from the singular to the plural as is appropriate to the context and / or application. The various singular / plural permutations may be expressly set forth herein for sake of clarity.

[0142] Moreover, it will be understood by those skilled in the art that, in general, terms used herein, and especially in the appended claims, e.g., bodies of the appended claims, are generally intended as “open” terms, e.g., the term “including” should be interpreted as “including but not limited to, ” the term “having” should be interpreted as “having at least, ” the term “includes” should be interpreted as “includes but is not limited to, ” etc. It will be further understood by those within the art that if a specific number of an introduced claim recitation is intended, such an intent will be explicitly recited in the claim, and in the absence of such recitation no such intent is present. For example, as an aid to understanding, the following appended claims may contain usage of the introductory phrases "at least one" and "one or more" to introduce claim recitations. However, the use of such phrases should not be construed to imply that the introduction of a claim recitation by the indefinite articles "a" or "an" limits any particular claim containing such introduced claim recitation to implementations containing only one such recitation, even when the same claim includes the introductory phrases "one or more" or "at least one" and indefinite articles such as "a" or "an, " e.g., “a” and / or “an” should be interpreted to mean “at least one” or “one or more; ” the same holds true for the use of definite articles used to introduce claim recitations. In addition, even if a specific number of an introduced claim recitation is explicitly recited, those skilled in the art will recognize that such recitation should be interpreted to mean at least the recited number, e.g., the bare recitation of "two recitations, " without other modifiers, means at least two recitations, or two or more recitations. Furthermore, in those instances where a convention analogous to “at least one of A, B, and C, etc. ” is used, in general such a construction is intended in the sense one having skill in the art would understand the convention, e.g., “a system having at least one of A, B, and C” would include but not be limited to systems that have A alone, B alone, C alone, A and B together, A and C together, B and C together, and / or A, B, and C together, etc. In those instances where a convention analogous to “at least one of A, B, or C, etc. ” is used, in general such a construction is intended in the sense one having skill in the art would understand the convention, e.g., “a system having at least one of A, B, or C” would include but not be limited to systems that have A alone, B alone, C alone, A and B together, A and C together, B and C together, and / or A, B, and C together, etc. It will be further understood by those within the art that virtually any disjunctive word and / or phrase presenting two or more alternative terms, whether in the description, claims, or drawings, should be understood to contemplate the possibilities of including one of the terms, either of the terms, or both terms. For example, the phrase “A or B” will be understood to include the possibilities of “A” or “B” or “A and B. ”

[0143] From the foregoing, it will be appreciated that various implementations of the present disclosure have been described herein for purposes of illustration, and that various modifications may be made without departing from the scope and spirit of the present disclosure. Accordingly, the various implementations disclosed herein are not intended to be limiting, with the true scope and spirit being indicated by the following claims.

Claims

1.A video coding method comprising:receiving data to be encoded or decoded as a current block of pixels of a current picture of a video;deriving a current histogram of gradients (HoG) for the current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block, wherein at least one of the inherited HoGs is an augmented HoG that is derived without gradient calculation;identifying two or more intra-prediction directions based on the current HoG; andencoding or decoding the current block by using the identified intra-prediction directions to generate a prediction of the current block.2.The video coding of claim 1, wherein the augmented HoG specifies amplitudes that are derived from a characteristic of a neighboring block.3.The video coding of claim 1, wherein the augmented HoG specifies one or more intra-prediction directions that are provided by a coding tool used to encode or decode a neighboring block.4.The video coding of claim 3, wherein a partition angle of a geometric partitioning of the neighboring block is used to specify the two or more intra-prediction directions of the augmented HoG.5.The video coding of claim 4, wherein the partition angle is further used to specify a weighting factor for the amplitude at each of the two or more intra-prediction directions of the augmented HoG.6.The video coding of claim 1, wherein the current HoG is derived by a weighted sum of the one or more inherited HoGs.7.The video coding of claim 6, wherein each of the inherited HoGs is weighted according to a confidence factor associated with the neighboring block providing the inherited HoG.8.The video coding of claim 1, wherein whether to encode or decode the current block by using the inherited HoGs is determined based on a number or a percentage of the neighboring CUs having an available HoG for inheritance by the current block.9.The video coding of claim 1, wherein the inherited HoGs comprise at least one HoG that is derived by gradient calculation of reconstructed samples of a neighboring block.10.The video coding of claim 1, wherein the inherited HoGs comprise at least one HoG that is derived by gradient calculation of predicted samples of a neighboring block.11.The video coding of claim 1, wherein the inherited HoGs comprise at least one previously stored HoG that is derived by gradient calculation of samples in a adjacent region of a neighboring block.12.The video coding of claim 1, wherein the inherited HoGs comprise at least one HoG that is re-generated for a neighboring block that already has a HoG that is stored and available for inheritance by the current block.13.An electronic apparatus comprising:a video coder circuit configured to perform operations comprising:receiving data to be encoded or decoded as a current block of pixels of a current picture of a video;deriving a current histogram of gradients (HoG) for the current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block, wherein at least one of the inherited HoGs is an augmented HoG that is derived without gradient calculation;identifying two or more intra-prediction directions based on the current HoG; andencoding or decoding the current block by using the identified intra-prediction directions to generate a prediction of the current block.14.A video decoding method comprising:receiving data to be decoded as a current block of pixels of a current picture of a video;deriving a current histogram of gradients (HoG) for the current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block, wherein at least one of the inherited HoGs is an augmented HoG that is derived without gradient calculation;identifying two or more intra-prediction directions based on the current HoG; andreconstructing the current block by using the identified intra-prediction directions to generate a prediction of the current block.15.A video encoding method comprising:receiving data to be encoded as a current block of pixels of a current picture of a video;deriving a current histogram of gradients (HoG) for the current block by inheriting one or more HoGs from neighboring blocks in a vicinity of the current block, wherein at least one of the inherited HoGs is an augmented HoG that is derived without gradient calculation;identifying two or more intra-prediction directions based on the current HoG; andencoding current block by using the identified intra-prediction directions to generate a prediction of the current block.

Images