ブラシの太さが変更できない件

ペイントのショートカットキー　Option+Shift+Command+E を押す方法はどうでしょう。

エフェクトに追加されればいいのですが

失礼しました。「ブラシツール」ですね。

①「レイヤー」パネルを開きます。

②「ブラシツール」をクリックし、カーソルを「レイヤー」パネル内へ移動します。

③Commandキーを押したまま、上下左右にドラッグを始めるとカーソルは、白の丸に変わり、さらに続けると丸のサイズが変わります。

④ドラッグすると、ブラシで塗ることが出来ます。

koukiさんはMacだと思うので、ブラシでもロトブラシでも

commandを押しながら上下or左右にクリック＆ドラッグしてみて下さい。

Ctrlだと右クリックメニューが開いてしまうと思います。

After Effects キーボードショートカットリファレンス

ただブラシパネルで変更が出来ないのはおかしいですね。

スクショだとブラシパネルがアクティブになっていないように見受けられます。

ブラシツールを選択してカーソルをレイヤーパネル上にのせると、

150kwさんの画像のように円形が表示されるはずなのですが…いかがでしょうか？

＊追記

ブラシツールでもロトブラシツールでも選択した時点でブラシパネルがアクティブになるはずです。

（ペイントパネルはブラシツールを選択した時のみアクティブに）

ブラシパネルを非アクティブにする設定は聞いたことがないので、

念のためですが、Aeの再起動をしてみて下さい。