互換性優先PSDを配置して書き出したx4に線が出る条件について

興味深い指摘が出てきたので共有します。
Acrobatの環境設定の「ページ表示」の項目に「画像のスムージング」があります。デフォルトではチェックが入っていますので、これを外すとエッジに乗ってきたグレー等が出なくなります。

どうも、問題はIllustratorとAcrobat双方の処理に問題があるようです。これがRIP等でどう扱われているかというのは現時点では不明なのですが刷版に影響出ない可能性もあります。

しかしながら、Windows版とmacOS版で書き出されるデータに相違は存在しますのでIllustrator側でも出力結果の統一は不可欠です。

注意するべき状況や当面の回避策など、現状の情報まとまりますかね？（イ也力本原頁）

Windowsにて追試を行いました。

このエッジのアンチエイリアスは各版の濃度により反応するように設計されているようです。この処理はWindowsでも同様のエッジ処理だと考えてよいです。
しかし、macOS版では各版の濃度に反応せず不透明度0のピクセルの全版0xffに塗りつぶしてしまい、その影響でエッジに4Cグレーが生じることになります。
ちなみにこの挙動はPDF-X4限定ではなく透明をサポートするPDF1.4以降のバージョン全てに共通する挙動です。

細かい点をまず把握します。
PhotoshopのPSDを書き出す際の互換性を〜のチェックボックスは何を行っているかと言うと、PSDファアイルの末尾に当該データをコンポジットした完全なビットマップを含める処理です。このレンダリング済みのビットマップがあることで、バージョンやアプリケーション違いによるレンダリング結果の相違を回避することができます。

で、この互換性を外した状態でのPDF出力を確認するとマスクされた部分も含めて正常なレンダリング結果のビットマップが含められています。

一方、互換性を保ったものを配置した場合は以下のようになっています。

このようにマスクが適用されているピクセルの濃度が最大値になっています。これがマスクエッジに影響を与えるのですが、元のPSDのビットマップ部分の生データを見ると…

このようになっているわけで、このビットマップが反映されているというわけではありません。おそらくマスクの濃度を各チャンネルに適用するか単純に各チャンネルに0xFFを当ててしまっているのだと思われます。

このマスクされた部分が演算に乗ってくるためにエッジに4C割れが乗ってしまいます。

追加

Winで作った互換ありPSDをMacIllustratorに配置→出る

Winで作った互換ありPSDをWin版Illustratorに配置したaiデータをMacで開く→出る

OSが逆だと出ません。

とりあえず8✕8の画像で再現したものと回避した場合のX4の内部構造を比較してみました。

明らかにエッジに乗ってきていますね。

どこに由来したピクセルなのか解析が必要です。

※MacのIllustrator上では配置した段階で線が見えます。CPUプレビューにすると消えます。