PCの物理メモリについて

簡単に試した程度でしかないのですが、GeForce RTX 3060 Laptop+メモリ32GB搭載のWindows 11およびPhotoshop23.4.2で 8256×5504pxのRAWファイルを開き、40枚程度のレイヤー複製、psb保存、それを再度開いても、タスクマネージャーの利用メモリ量はおよそ10GB弱程度の利用でした。

GeForceのドライバーは現時点の最新に、Photoshopはこの作業を行う前に環境設定のリセットをしてます。

こちらで何か見落としをしていなければ、環境固有の影響が想定されます。

何か特定の常駐ソフトやセキュリティソフトを利用している場合、まずはその点の確認を行ってみることからではないかと思います。

流石に64GBの搭載で、“最近起動をしているだけで常に65%を超えている”というのは見過ごせませんね。
当方の32GB搭載のM1Mac上で、Photoshopについてもデフォルトの70％のパフォーマンス設定で1つのファイルを開いて軽作業する程度であれば、アクティビティモニターを観ても、せいぜい3–6GB前後を行ったり来たりする程度です。

きっと、 「編集」メニューから「メモリをクリア」の対応はすでに試されておられるかと思いますが、念のため。

また、ブロガーさんの記事なのですが、一通りの対応が読みやすく整理されてまとまっていますので、それをご案内させていただきます。
こちらを一通り、チェックされてみてください。
Photoshopの動作が重いときに見直す10のポイント【2022年版】