本發明公開一種基于均方誤差門限的質量可分級視頻編碼方法,其利用模式矢量大小不同對于重建圖像質量的影響,對于不同質量層采用具有不同大小模式矢量的特征模式庫進行編碼,從而實現視頻質量可分級。首先,對視頻圖像進行分塊,對于基本層采用具有較大模式矢量的特征模式庫進行編碼;通過與均方誤差門限比較,對于均方誤差較大的圖像塊進一步分割,采用具有較小模式矢量的特征模式庫對這些分割后的圖像塊進行編碼形成增強層。本發明只需要對圖像塊進行搜索匹配最佳模式矢量,并對索引進行編碼,摒棄了現有非常復雜的幀內預測、幀間預測和層間預測,大大降低了復雜度,提升了壓縮性能。