【Photoshop】描画モード［カラー比較（明）］の結果色について

たぶん解決しました。
輝度の値を比較してるのではないかと思います。

【輝度の計算式】
（0.3R＋0.6G＋0.1B） ÷ 255
※厳密には（（0.298912 ✕ R）＋（0.586611 ✕ G） ＋ （0.114478 ✕ B））÷ 255 

今回の場合、
▶ 基本色（25,150,25）緑色
▶ 合成色（150,50,20）赤色
となるので、輝度の計算をすると
▶ 基本色（39）緑色
▶ 合成色（30）赤色
となります。

よって、基本色が表示されるのだと思います。

暇を見て確認していたんですが、

silk-mさんが言われているように、RGB各チャンネル値の合計も最大もLabのLも当てはまりませんでした。

試しに指定カラーの赤と緑をはじめ、上のレイヤーカラーが生きるところまで赤のカラー成分を変えてみたりして、

そのつど各カラーをグレースケール変換して比較してみましたが、これも外れでした。

公式ヘルプの説明文の通りではないという点が驚きです。

解明できたらおおごとになりそうです（ならないかもですが…）

カラー比較では色相の違いによる見た目の明るさが考慮されていますから、見た目で明るく見える緑が明るいと判断されるのだと思います。

「Lab」で比較すると

25, 150, 25 は Lab では 54, -51, 50、150, 50, 20 は 36, 42, 41 で明度 L は緑の方が大きな値になります。

ただ Lab で 45, 42, 41 と 54, -51, 50 の比較では 45, 42, 41 の方が明るいと判断されていますから、単純に「Lab」の「L」値で比べている訳ではないようです。

単純に RGB の合計値が大きい方が明るいとされる説があるようですが、間違いだと思います。

比較（明）は，「基本色と合成色のRGB合計値を比較」ではなく，各カラー値を比較して値の大きいほう（明るいほう）を抽出・合成しているようです。

例示された基本色/合成色の場合だと，結果色は R:150, G:150, B:25 のうぐいす色っぽい緑色になると思います。

Adobe Photoshop での描画モード 

追記：

質問内容を盛大に読み間違えてますね。失礼しました！