Ticket #1633: encoder_lowdelay_P_16bit.cfg

File encoder_lowdelay_P_16bit.cfg, 18.2 KB (added by pmeinicke, 9 months ago)

cfg-file used for 16bit-encoding

Line 
1#======== File I/O =====================
2BitstreamFile                 : str.bin
3ReconFile                     : rec.yuv
4
5#======== Profile ================
6Profile                       : auto
7
8#======== Unit definition ================
9MaxCUWidth                    : 64          # Maximum coding unit width in pixel
10MaxCUHeight                   : 64          # Maximum coding unit height in pixel
11
12#======== Coding Structure =============
13IntraPeriod                   : 25          # Period of I-Frame ( -1 = only first)
14DecodingRefreshType           : 2           # Random Access 0:none, 1:CRA, 2:IDR, 3:Recovery Point SEI
15GOPSize                       : 1           # GOP Size (number of B slice = GOPSize-1)
16
17IntraQPOffset                 : 0
18LambdaFromQpEnable            : 0           # see JCTVC-X0038 for suitable parameters for IntraQPOffset, QPoffset, QPOffsetModelOff, QPOffsetModelScale when enabled
19#        Type POC QPoffset QPOffsetModelOff QPOffsetModelScale CbQPoffset CrQPoffset QPfactor tcOffsetDiv2 betaOffsetDiv2 CbTcOffsetDiv2 CbBetaOffsetDiv2 CrTcOffsetDiv2 CrBetaOffsetDiv2 temporal_id #ref_pics_active_L0 #ref_pics_L0   reference_pictures_L0 #ref_pics_active_L1 #ref_pics_L1   reference_pictures_L1
20Frame1:    P   1   0       -6.5                      0.2590         0          0          0.5      0            0               0             0                 0               0               0             1                1         1                              0                   0
21#Frame2:    P   2   0       -6.5                      0.2590         0          0          1.0      0            0               0             0                 0               0               0             1                1         1                              0                   0
22#Frame3:    P   3   0       -6.5                      0.2590         0          0          1.0      0            0               0             0                 0               0               0             1                1         1                              0                   0
23#Frame4:    P   4   0       -6.5                      0.2590         0          0          1.0      0            0               0             0                 0               0               0             1                1         1                              0                   0
24#Frame5:    P   5   0       -6.5                      0.2590         0          0          1.0      0            0               0             0                 0               0               0             1                1         1                              0                   0
25#Frame6:    P   6   0       -6.5                      0.2590         0          0          1.0      0            0               0             0                 0               0               0             1                1         1                              0                   0
26#Frame7:    P   7   0       -6.5                      0.2590         0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
27#Frame8:    P   8   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
28#Frame9:    P   9   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
29#Frame10:   P   10   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
30#Frame11:   P   11   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
31#Frame12:   P   12   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
32#Frame13:   P   13   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
33#Frame14:   P   14   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
34#Frame15:   P   15   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
35#Frame16:   P   16   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
36#Frame17:   P   17   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
37#Frame18:   P   18   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
38#Frame19:   P   19   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
39#Frame20:   P   20   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
40#Frame21:   P   21   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
41#Frame22:   P   22   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
42#Frame23:   P   23   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   0
43#Frame24:   P   24   0        0.0                      0.0            0          0          1.0      0            0               0             0                 0               0               0             1                1         1                             0                   
44#=========== Motion Search =============
45FastSearch                    : 1           # 0:Full search  1:TZ search
46SearchRange                   : 1          # (0: Search range is a Full frame)
47BipredSearchRange             : 0           # Search range for bi-prediction refinement
48HadamardME                    : 1           # Use of hadamard measure for fractional ME
49FEN                           : 1           # Fast encoder decision
50FDM                           : 1           # Fast Decision for Merge RD cost
51
52#======== Quantization =============
53QP                            : 32          # Quantization parameter(0-51)
54MaxDeltaQP                    : 0           # CU-based multi-QP optimization
55MaxCuDQPSubdiv                : 0           # Maximum subdiv for CU luma Qp adjustment
56DeltaQpRD                     : 0           # Slice-based multi-QP optimization
57DepQuant                      : 0           # Enables or disables the usage of dependent quantization
58RDOQ                          : 0           # RDOQ (Rate distortion optimized quantization for transformed TU's)
59RDOQTS                        : 0           # RDOQ for transform skip
60
61#=========== Deblock Filter ============
62DeblockingFilterOffsetInPPS         : 1           # Dbl params: 0=varying params in SliceHeader, param = base_param + GOP_offset_param; 1 (default) =constant params in PPS, param = base_param)
63DeblockingFilterDisable             : 0           # Disable deblocking filter (0=Filter, 1=No Filter)
64DeblockingFilterBetaOffset_div2     : 0           # base_param: -12 ~ 12
65DeblockingFilterTcOffset_div2       : 0           # base_param: -12 ~ 12
66DeblockingFilterCbBetaOffset_div2   : 0           # base_param: -12 ~ 12
67DeblockingFilterCbTcOffset_div2     : 0           # base_param: -12 ~ 12
68DeblockingFilterCrBetaOffset_div2   : 0           # base_param: -12 ~ 12
69DeblockingFilterCrTcOffset_div2     : 0           # base_param: -12 ~ 12
70DeblockingFilterMetric        : 0           # blockiness metric (automatically configures deblocking parameters in bitstream). Applies slice-level loop filter offsets (DeblockingFilterOffsetInPPS and DeblockingFilterDisable must be 0)
71
72#=========== Misc. ============
73InternalBitDepth              : 16          # codec operating bit-depth
74MaxBitDepthConstraint: 16                   # For –profile=main-RExt, specifies the value to use to derive the general_max_bit_-depth constraint flags for RExt profiles; when 0, use InternalBitDepth.
75
76#=========== Coding Tools =================
77SAO                           : 1           # Sample adaptive offset  (0: OFF, 1: ON)
78TransformSkip                 : 1           # Transform skipping (0: OFF, 1: ON)
79TransformSkipFast             : 1           # Fast Transform skipping (0: OFF, 1: ON)
80TransformSkipLog2MaxSize      : 2           # Specifies the maximum TU size for which transform-skip can be used; the minimum value is 2.
81SAOLcuBoundary                : 0           # SAOLcuBoundary using non-deblocked pixels (0: OFF, 1: ON)
82
83#=========== TemporalFilter =================
84TemporalFilter                : 0        # Enable motion-compensated temporal pre-filter. When enabled, at least one of TemporalFilterPastRefs and TemporalFilterFutureRefs must be larger than 0.
85TemporalFilterPastRefs        : 0        # Number of past references for temporal prefilter
86TemporalFilterFutureRefs      : 0           # Number of future references for temporal prefilter
87TemporalFilterStrengthFrame8  : 0         # Enable filter at every 8th frame with strength
88
89#============ Rate Control ======================
90RateControl                         : 0                # Rate control: enable rate control
91TargetBitrate                       : 1000000          # Rate control: target bitrate, in bps
92KeepHierarchicalBit                 : 2                # Rate control: 0: equal bit allocation; 1: fixed ratio bit allocation; 2: adaptive ratio bit allocation
93LCULevelRateControl                 : 1                # Rate control: 1: LCU level RC; 0: picture level RC
94RCLCUSeparateModel                  : 1                # Rate control: use LCU level separate R-lambda model
95InitialQP                           : 0                # Rate control: initial QP
96RCForceIntraQP                      : 0                # Rate control: force intra QP to be equal to initial QP
97
98#============ VTM settings ======================
99SEIDecodedPictureHash               : 1               # Enables or disables the calculation and insertion of the Decoded picture hash SEImessages. 0 Disabled, 1 Transmits MD5 in SEI message and writes the value to the encoder log, 2 Transmits CRC in SEI message and writes the value to the encoder log, 3 Transmits checksum in SEI message and writes the value to the encoder log
100CbQpOffset                          : 0
101CrQpOffset                          : 0
102SameCQPTablesForAllChroma           : 0
103QpInValCb                           : 17 22 34 42
104QpOutValCb                          : 17 23 35 39
105ReWriteParamSets                    : 0
106
107#============ NEXT ====================
108ExtendedPrecision               : 1       #Specifies the use of extended_precision_processing flag. Note that unless the HIGH_-BIT_DEPTH_SUPPORT macro in TypeDef.h is enabled, all internal bit depths must be 8 when the ExtendedPrecision setting is enabled. This setting is only valid for the 16-bit RExt profiles.
109ExtendedRiceRRC                 : 1       # When true, specifies the that extension of the Golomb-Rice parameter derivation for regular residual coding (RRC) is used.
110GolombRiceParameterAdaptation   : 1       # Enables the adaption of the Golomb-Rice parameter over the course of each slice.
111ReverseLastSigCoeff             : 1       # When true, enable reverse last significant coefficient postion in RRC.
112
113ColorTransform:                   0
114Log2MaxTbSize:                    5       # Defines the Maximum TU (transform unit) size in logarithm base 2
115BDPCM:                            1       # Enable use of intra block differential pulse code modulation mode
116MaxBTLumaISlice:                  16      # Defines the initial maximum size of the binary tree in dual tree for luma component [Def = 32]
117MaxBTNonISlice:                   16      # Defines the initial maximum size of the binary tree for inter slices [Def = 128]
118MaxTTLumaISlice:                  16      # Defines the initial maximum size of the tenary tree in dual tree for luma component [Def = 32]
119MaxTTNonISlice:                   16      # Defines the initial maximum size of the tenary tree for inter slices [Def = 64]
120BCW:                              0       # Enables or disables the use of Bi-prediction with CU-level Weights (BCW)
121MMVD:                             1       # Enable Merge mode with Motion Vector Difference
122SMVD:                             0       # Enables or disables symmetric MVD (motion vector difference) mode.
123Geo:                              0       # Enables or disables geometric partitioning mode.
124BIO:                              0       # Enable bi-directional optical flow
125DMVR:                             0       # Decoder-side Motion Vector Refinement
126TSRCRicePresent:                  1       # Enables the use of the extension of the Golomb-Rice parameter derivation for Transform Skip Residual Coding (TSRC)
127
128# General
129CTUSize                      : 128
130LCTUFast                     : 1      # Enable fast methods for large CTU
131DualITree                    : 0      # separate partitioning of luma and chroma channels for I-slices
132MinQTLumaISlice              : 8      # Defines the initial minimum size of the quad tree in dual tree for luma component
133MinQTChromaISliceInChromaSamples: 4      # minimum QT size in chroma samples for chroma separate tree
134MinQTNonISlice               : 8      # Defines the initial minimum size of the quad tree for inter slices
135MaxMTTHierarchyDepth         : 3      # Defines the initial maximum depth of the multi-type tree for inter slices
136MaxMTTHierarchyDepthISliceL  : 3      # Defines the initial maximum depth of the multi-type tree in dual tree for luma component
137MaxMTTHierarchyDepthISliceC  : 3      # Defines the initial maximum depth of the multi-type tree in dual tree for chroma components.
138
139MTS                          : 1      # Enables explicit mutiple transform set (MTS). 0: disable, 1: enable explicit intra MTS, 2: enable implicit intra and explicit inter MTS, 3: enable explicit intra and explicit inter MTS, 4: enable implicit intra MTS
140MTSIntraMaxCand              : 3
141MTSInterMaxCand              : 4
142SBT                          : 1
143ISP                          : 0      # Enable Intra Sub-Partitions
144Affine                       : 0      # Enable Affine-Prediction
145SbTMVP                       : 0      # Enable Subblock Temporal Motion Vector Prediction [default: off]
146MaxNumMergeCand              : 6
147LMChroma                     : 1      # use CCLM only
148DepQuant                     : 0      # Enables or disables the usage of dependent quantization
149IMV                          : 1
150ALF                          : 1
151CIIP                         : 1
152IBC                          : 0      # turned off in CTC
153AllowDisFracMMVD             : 1
154AffineAmvr                   : 0
155LMCSEnable                   : 0      # LMCS: 0: disable, 1:enable (luma mapping with chroma scaling)
156LMCSSignalType               : 0      # Input signal type: 0:SDR, 1:HDR-PQ, 2:HDR-HLG
157LMCSUpdateCtrl               : 2      # LMCS model update control: 0:RA, 1:AI, 2:LDB/LDP
158LMCSOffset                   : 1      # chroma residual scaling offset
159MRL                          : 1
160MIP                          : 0
161JointCbCr                    : 1      # joint coding of chroma residuals (if available): 0: disable, 1: enable
162PROF                         : 0      # Enable Prediction refinement with optical flow for affine mode (0:off, 1:on) [default off]
163ChromaTS                     : 1
164
165# Fast tools
166PBIntraFast                  : 1
167ISPFast                      : 0
168FastMrg                      : 1
169AMaxBT                       : 1
170FastMIP                      : 0
171FastLocalDualTreeMode        : 0
172MaxMergeRdCandNumTotal       : 5
173
174# Encoder optimization tools
175AffineAmvrEncOpt             : 0
176MmvdDisNum                   : 6
177ALFAllowPredefinedFilters    : 1
178ALFStrengthTargetLuma        : 1.0
179ALFStrengthTargetChroma      : 1.0
180CCALFStrengthTarget          : 1.0
181EncDbOpt                     : 1      # apply deblocking in RDO
182### DO NOT ADD ANYTHING BELOW THIS LINE ###
183### DO NOT DELETE THE EMPTY LINE BELOW ###
184
185
186