書き出し方法について

1.
レンダーキューはAfter Effectsのコンポジションのみをレンダリングする機能です。
Media Encoderは、After Effects・Premiere・Photoshop（動画）のファイル及び、さまざまな動画ファイルを読み込んでレンダリングできます。
mp４形式に書き出す場合は、MEを使用します。

2.
エラーメッセージによると、GPUのVRAMが不足してるかもしれません。
キャッシュの消去をおこなってから再試行してみてはどうでしょう。
GPUドライバーのアップデートも試してください。
それでも同じなら、「ソフトウェアのみ」を選択してレンダリングです。
ただし、メッセージには使用しているエフェクトによっては正常にレンダリングできないとあるので、結果がどうなるかはわかりません。

3.
「トライトーン」か「CC Toner」で対応できます。