帧间预测

帧间预测分为 AMVP 模式和 Merge 模式。
AMVP 模式的入口为 xCheckRDCostInter
Merge 模式的入口为 xCheckRDCostMerge2Nx2N

AMVP 模式

AMVP 模式的帧间预测参数选择流程入口为 xCheckRDCostInter
率失真优化 - 图1
接下来我们考察 encodeResAndCalcRdInterCU
它的主要任务是计算 PU 的残差和率失真代价
率失真优化 - 图2
predInterSearch的流程,先做运动估计再做运动补偿。
predInterSearch 的主要任务是为 CU 下的每一帧做处理

率失真优化 - 图3
AMVP模式下依靠xEstimateMvPredAMVP函数预测MVP。
率失真优化 - 图4

Merge模式

Merge 模式的入口为 xCheckRDCostMerge2Nx2N
率失真优化 - 图5

帧内预测

帧内预测的入口函数是xCheckRDCostIntra。
率失真优化 - 图6
estIntraPredQT的流程如下:
对当前 CU 下的所有 PU 做处理。
率失真优化 - 图7