本发明提出一种HEVC无损视频编码的预测模式选择方法及相应的编码方法，所述选择方法首先初始化该视频帧的每个LCU的帧内预测和帧间预测用于RDO的拉格朗日乘数并进行帧内预测和帧间预测，选出最佳模式用于编码，计算编码该帧所需比特率，作为初始的参考比特率，然后改变该帧K个LCU的所述乘数再选出最佳模式用于编码，计算当前比特率，计算当前比特率与参考比特率之间的差值，根据预定的规则接受或拒绝改变后的乘数，并且在接受时将当前比特率作为参考比特率，判断是否无需再改变乘数，当不需要，则结束，否则返回进行迭代。本发明的方法对HEVC原有的编码结构改动很小，消除了原始标准中QP对无损模式编码效率带来的不利影响，编码比特率有很大降低。
