ソースより小さいフレームサイズでエンコードする際【レンダラー:GPUアクセラレーション】にした場合「最高レンダリング品質を使用」にチェックを入れてもまったく機能していません。
下記のように「3840×2160」で撮影した動画をPremiereに読み込み、編集で映像の一部分をスケールアップし「720×480」でエンコードします。
【ソース映像】

その際【レンダラー:ソフトウェア処理】であれば「最高レンダリング品質を使用」にチェックを入れれば綺麗な画質でエンコードされます。
【Mercury Playback Engine - ソフトウェア処理】

しかしGPUアクセラレーションでは「最高レンダリング品質を使用」にチェックを入れても画質が荒れてしまいます。
【Mercury Playback Engine - GPUアクセラレーション(CUDA)(OpenGL)】

MediaEncoder 23.0でエンコードするとこのバグは起こりません。
23.3か23.4以降から発生しており、最新版の25.0でも引き続きこのバグが起こります。
なお、PremiereProでのエンコードでも同時期から同じバグが発生しています。
【使用環境】
Windows 10
Intel Core i7 10750H
Geforce RTX 2070 Super