Answered
作った工程等分からないのですが、これを見る限りレイヤーマスクの作り方に問題があります。
マスクには、画面範囲外も黒いマスクと、画面範囲外も白いマスクのふたつがあります。
そのキャプチャの作りを見ると、白いマスクを画面範囲だけ塗ってしまっていますが、それだとスマートオブジェクトや「背景」レイヤーのない状態で合成するとフチに細い線がでてきます。
ずらすとこうなるやつですね。画面のフチまで塗っているつもりでも、貼ってサイズを変えるとフチ部分のアンチエイリアスで線が出てきてしまいます。

提示されたキャプのように、人物(?)部分のみを出すのであれば最初から黒いマスクに対して抜くべきです。
※マスクを「画像を反転」や、option(alt)+マスク作成でこの全部黒いマスクになります。

現在の状態を修正するには、この回答を参考にしてみてください。
Sign up
Already have an account? Login
To post, reply, or follow discussions, please sign in with your Adobe ID.
Sign inSign in to Adobe Community
To post, reply, or follow discussions, please sign in with your Adobe ID.
Sign inEnter your E-mail address. We'll send you an e-mail with instructions to reset your password.
