お書きいただいた状況から、ハードウェアエンコーダーに関わる問題である可能性が高い状況かと思います。
念のため、NVIDIAのドライバーが「Studio ドライバー」をインストールなさっているかご確認いただくといかがでしょうか。
また、もしIntelのエンコーダーも使える環境の場合には、Intel側のエンコーダーが使用できるかもしれません。
(私の手元の環境がGPU非搭載のCPUでNVIDIAのみなので、私自身は現行バージョンで検証できておりません。)
また、差し支えございませんでしたら、Windowsのバージョンと、GPUの型番とCPUの型番、NVIDIAのドライバのバージョンをお書き添えいただけますと、解決のヒントが見つかりやすくなるかと思います。
【質問テンプレート】コピペして使ってください☺︎ - Adobe Community - 11369772
ちなみに、グローバル版でこのような投稿があるのを見つけたのですが、画面が緑色になったりといったj症状はございますでしょうか。
After exporting video gets green and terrible dist... - Adobe Community - 14455590
【追記】
NVIDIAのドライバを、最新ではなく少し前のバージョンのStudioドライバーにロールバックしてお試しいただくことも、試す価値がありそうです。
【2024/2/29 17:00 追記2】
すみません、改めて確認したところ既知の不具合の可能性があるようです。
半日ほど前に、グローバル版のフォーラムにアドビ社員の方からの投稿がありました。
Video export but error - Adobe Community - 14444203
NVIDIAのドライバを、「Studio driver, version 551.23」にしていただくことで解消されるようです。