Ticket #683: encoder_lowdelay_P_mod_vtm.cfg

File encoder_lowdelay_P_mod_vtm.cfg, 8.3 KB (added by rajan_joshi, 3 years ago)

modified low delay P config file

Line 
1#======== File I/O =====================
2BitstreamFile                 : str.bin
3ReconFile                     : rec.yuv
4
5#======== Profile ================
6Profile                       : next
7
8#======== Unit definition ================
9MaxCUWidth                    : 64          # Maximum coding unit width in pixel
10MaxCUHeight                   : 64          # Maximum coding unit height in pixel
11MaxPartitionDepth             : 4           # Maximum coding unit depth
12
13#======== Coding Structure =============
14IntraPeriod                   : -1          # Period of I-Frame ( -1 = only first)
15DecodingRefreshType           : 0           # Random Accesss 0:none, 1:CRA, 2:IDR, 3:Recovery Point SEI
16GOPSize                       : 2           # GOP Size (number of B slice = GOPSize-1)
17
18IntraQPOffset                 : 01
19LambdaFromQpEnable            : 1           # see JCTVC-X0038 for suitable parameters for IntraQPOffset, QPoffset, QPOffsetModelOff, QPOffsetModelScale when enabled
20#        Type POC QPoffset QPOffsetModelOff QPOffsetModelScale CbQPoffset CrQPoffset QPfactor tcOffsetDiv2 betaOffsetDiv2 temporal_id #ref_pics_active_L0 #ref_pics_L0   reference_pictures_L0 #ref_pics_active_L1 #ref_pics_L1   reference_pictures_L1
21Frame1:    P   1   1       0.0                      0.0         0          0          1.0      0            0               0             1                1         1                      0                   0
22Frame2:    P   2   1       0.0                      0.0         0          0          1.0      0            0               0             1                1         1                      0                   0
23
24#=========== Motion Search =============
25FastSearch                    : 1           # 0:Full search  1:TZ search
26SearchRange                   : 64          # (0: Search range is a Full frame)
27BipredSearchRange             : 4           # Search range for bi-prediction refinement
28HadamardME                    : 1           # Use of hadamard measure for fractional ME
29FEN                           : 1           # Fast encoder decision
30FDM                           : 1           # Fast Decision for Merge RD cost
31
32#======== Quantization =============
33QP                            : 32          # Quantization parameter(0-51)
34MaxDeltaQP                    : 0           # CU-based multi-QP optimization
35MaxCuDQPSubdiv                : 0           # Maximum subdiv for CU luma Qp adjustment
36DeltaQpRD                     : 0           # Slice-based multi-QP optimization
37RDOQ                          : 1           # RDOQ
38RDOQTS                        : 1           # RDOQ for transform skip
39
40#=========== Deblock Filter ============
41LoopFilterOffsetInPPS         : 1           # Dbl params: 0=varying params in SliceHeader, param = base_param + GOP_offset_param; 1 (default) =constant params in PPS, param = base_param)
42LoopFilterDisable             : 0           # Disable deblocking filter (0=Filter, 1=No Filter)
43LoopFilterBetaOffset_div2     : 0           # base_param: -6 ~ 6
44LoopFilterTcOffset_div2       : 0           # base_param: -6 ~ 6
45DeblockingFilterMetric        : 0           # blockiness metric (automatically configures deblocking parameters in bitstream). Applies slice-level loop filter offsets (LoopFilterOffsetInPPS and LoopFilterDisable must be 0)
46
47#=========== Misc. ============
48InternalBitDepth              : 10          # codec operating bit-depth
49
50#=========== Coding Tools =================
51SAO                           : 1           # Sample adaptive offset  (0: OFF, 1: ON)
52TransformSkip                 : 1           # Transform skipping (0: OFF, 1: ON)
53TransformSkipFast             : 1           # Fast Transform skipping (0: OFF, 1: ON)
54TransformSkipLog2MaxSize      : 5
55SAOLcuBoundary                : 0           # SAOLcuBoundary using non-deblocked pixels (0: OFF, 1: ON)
56
57#=========== TemporalFilter =================
58TemporalFilter                : 0           # Enable/disable GOP Based Temporal Filter
59TemporalFilterFutureReference : 0           # Enable/disable reading future frames
60TemporalFilterStrengthFrame4  : 0.4         # Enable filter at every 4th frame with strength
61
62#============ Slices ================
63SliceMode                : 0                # 0: Disable all slice options.
64                                            # 1: Enforce maximum number of LCU in an slice,
65                                            # 2: Enforce maximum number of bytes in an 'slice'
66                                            # 3: Enforce maximum number of tiles in a slice
67SliceArgument            : 1500             # Argument for 'SliceMode'.
68                                            # If SliceMode==1 it represents max. SliceGranularity-sized blocks per slice.
69                                            # If SliceMode==2 it represents max. bytes per slice.
70                                            # If SliceMode==3 it represents max. tiles per slice.
71
72LFCrossSliceBoundaryFlag : 1                # In-loop filtering, including ALF and DB, is across or not across slice boundary.
73                                            # 0:not across, 1: across
74
75#============ Lossless ================
76TransquantBypassEnable     : 0                         # Value of PPS flag.
77CUTransquantBypassFlagForce: 0                         # Force transquant bypass mode, when transquant_bypass_enable_flag is enabled
78
79#============ Rate Control ======================
80RateControl                         : 0                # Rate control: enable rate control
81TargetBitrate                       : 1000000          # Rate control: target bitrate, in bps
82KeepHierarchicalBit                 : 2                # Rate control: 0: equal bit allocation; 1: fixed ratio bit allocation; 2: adaptive ratio bit allocation
83LCULevelRateControl                 : 1                # Rate control: 1: LCU level RC; 0: picture level RC
84RCLCUSeparateModel                  : 1                # Rate control: use LCU level separate R-lambda model
85InitialQP                           : 0                # Rate control: initial QP
86RCForceIntraQP                      : 0                # Rate control: force intra QP to be equal to initial QP
87
88#============ VTM settings ======================
89LoopFilterTcOffset_div2             : 0
90SEIDecodedPictureHash               : 0
91CbQpOffset                          : 0
92CrQpOffset                          : 0
93SameCQPTablesForAllChroma           : 1
94QpInValCb                           : 32 44
95QpOutValCb                          : 32 41
96ReWriteParamSets                    : 1
97#============ NEXT ====================
98
99# General
100CTUSize                      : 128
101LCTUFast                     : 1
102
103DualITree                    : 1      # separate partitioning of luma and chroma channels for I-slices
104MinQTLumaISlice              : 8
105MinQTChromaISlice            : 4
106MinQTNonISlice               : 8
107MaxMTTHierarchyDepth         : 3
108MaxMTTHierarchyDepthISliceL  : 3
109MaxMTTHierarchyDepthISliceC  : 3
110
111MTS                          : 1
112MTSIntraMaxCand              : 3
113MTSInterMaxCand              : 4
114SBT                          : 1
115ISP                          : 1
116Affine                       : 1
117SubPuMvp                     : 1
118MaxNumMergeCand              : 6
119LMChroma                     : 1      # use CCLM only
120DepQuant                     : 1
121IMV                          : 1
122ALF                          : 1
123MHIntra                      : 1
124IBC                          : 0      # turned off in CTC
125AllowDisFracMMVD             : 1
126AffineAmvr                   : 0
127LMCSEnable                   : 1      # LMCS: 0: disable, 1:enable
128LMCSSignalType               : 0      # Input signal type: 0:SDR, 1:HDR-PQ, 2:HDR-HLG
129LMCSUpdateCtrl               : 2      # LMCS model update control: 0:RA, 1:AI, 2:LDB/LDP
130MIP                          : 0
131JointCbCr                    : 1      # joint coding of chroma residuals (if available): 0: disable, 1: enable
132PROF                         : 1
133PPSorSliceMode               : 3
134ChromaTS                     : 1
135
136# Fast tools
137PBIntraFast                  : 1
138ISPFast                      : 0
139FastMrg                      : 1
140AMaxBT                       : 1
141FastMIP                      : 0
142FastLocalDualTreeMode        : 2
143
144# Encoder optimization tools
145AffineAmvrEncOpt             : 0
146MmvdDisNum                   : 6
147### DO NOT ADD ANYTHING BELOW THIS LINE ###
148### DO NOT DELETE THE EMPTY LINE BELOW ###
149
150
151