マット設定というエフェクトの使い方

レイヤーを選択すると画像の周辺が細い線の長方形で囲われていると思います。
それがレイヤーのサイズです。
キャプチャー画面では、イラストの左端に縦線が見えるので、コンポジションのサイズと異なるためプリコンポーズは必要になります。

手順をエフェクト適用→プリコンポジション→コラップスとしていますが、
プリコンポジション-->エフェクト適用の順番です。
コラップスはエフェクトの設定が終わるまでは有効にしないように。

>しかし「レイヤーからマットを取り込む」をどのレイヤーに適用させればいいのか分かりません。

この点については、「マット」として使用するレイヤーを選びます。前回は星型のシェイプをマットとして使った例で画像をのせてみたのですが、分かりにくかったようですので別の例で載せてみます。

まず、Photoshopで4種類の画像を用意しました。

そして、After Effects上でマット設定を使用して配置した様子がこちらです。

これは、本題である「マット設定というエフェクトの使い方」について簡潔に動作をお見せするために、すべての素材を同じサイズ・同じ位置関係で配置したシンプルな例ですので、動きをつけたり位置を調整したりといった場合には、それらの操作に付随して工夫が必要になってくると思います。

ちなみにこれは、プリコンポと「トラックマット」を使用しています。

（「マット設定」は使っていません。）

＞トラックマットを使う時は対象のコマをマスクがけしてたのですが、

トラックマットを使用するとは、白・黒、または白・透明のトラックマットを、画像の上のレイヤーに敷いてルミナンスキー、またはアルファを設定して抜いたのではないでしょうか。

＞このエフェクトは適用させるだけで表示する範囲を制限してくれるものだと・・・

このエフェクトとはマスクのことですよね。マスクは対象の画像に「ペンツール」で閉じたパスを描けばマスクになり、マスクの範囲が表示されます。マスクの範囲外は透明になります。