ブラシツールについて

「アートボードを500✖︎500」の単位はピクセル（px）でしょうか。だとしたら，限界を超えているわけではないので何か別の理由ですね。なんだろう…？

追記：

どうやらカンバス（アートボード）が 5000px × 5000px を超えるとダメっぽいです。

解像度が 300ppi の場合だと，カンバスサイズが 424mm × 424mm でアウトになりますね。423mm ならセーフ。 

これですこれ

レイヤーについては、表示されているレイヤーすべての統合表示が対象となるので別に選んでなくて大丈夫のはずです。

別に「すべてを！」でなくて構わないので、何らか選択範囲を作成して試してみてください。