フォトショップでカラーハーフトーンが適用されずに困っております。

小さいピクセル数のものだと問題なくできるのでしょうか。

メモリ不足の可能性もあるので、ハードウェア関連の具体的な情報も書かれたほうがいいでしょう。

（機種年代やモデル名、搭載メモリなど）

OSのバージョンとPhotoshopのバージョンも書かれたほうがよいです。

（スクリーンショットから問題なさそうな感じですが，念のため…）

この場合、カンバスサイズはミリメートルではなくピクセル数であらためて知らせてください。

AppleTalkって21世紀に入って初めて目にした語句なので（大げさかも）、実際には別の理由だとしてもエラーメッセージ自体はバグの類じゃないかと疑っています。