イラストレターでメモリ不足エラーについて

実際にメモリ不足なのだと思います。

どのような機種構成かもあるのですが、もしメモリ8GBだと実質的にほぼ空き容量はありません。

16GBとしてギリギリですが、そこからGPU、OS、その他常駐ソフトのメモリを使うわけなので、潤沢かというと、実際にはそうではないことになります。

Apple Silicon Macの場合はメモリ増設ができないわけですから、利用範囲を絞って使うか、買い替えかのどちらかになります。

ちなみに同様の質問はここ最近見かけることが他にも出ることはあります。

また3Dとマテリアルはどうしてもメモリ利用が多めになる応用系機能ということもあったりはします。

メモリが不足しています、と出た以上は最初に疑うべきはメモリということなので、

Macのメモリ容量も（いちおう）書きましょう。

Illustrator の必要システム構成

とはいえ、M3ならメモリが極度に不足しているとも考えにくく、あとはGPUのほうはどうでしょうか。

3Dとマテリアルの対象オブジェクトの大きさなども関わってくると思うので、

そのあたりも含めてもうちょっと細かいことを教えてもらえれば、詳しい人が何か教えてくれますよ

（詳しくなくてすみません…）

まず、膨張は非常にメモリを消費します。形状を単純化して試すとどうでしょう。
AppleSiliconマシンの場合、メインメモリからGPUメモリを割譲しますので、メインメモリ・GPUメモリ双方が要求される３D処理では想定以上のメモリ負荷となります。複雑な形状では搭載メモリが16GBでは不足する可能性があります。