マット設定がうまく機能しません

画像に対して長方形のシェイプでレイヤーを切り抜こうと思い、

エフェクト「マット設定」を適用しているのですが何回やってもうまくいきません。

エフェクトを適用すると一応切り抜かれはするのですが、

マットに設定したシェイプの形とは明らかに違う形で切り抜かれてしまいます。

解決策はありますでしょうか？

※3Dレイヤーで、レンダラーはクラシック3Dです

ちなみに、テキストレイヤーに対して同じような操作を行った場合は

問題なく機能してくれます。