Skip to main content
Known Participant
December 7, 2022
Answered

階調飛びをしないように書き出す方法の確認とそれをh264形式で書き出すと点滅する原因についての疑問

  • December 7, 2022
  • 2 replies
  • 24911 views

グラデーションのエフェクトを使いMediaEncoderにてh264で書き出すと階調とび?バウンディング?マットバンド?というのでしょうか、グラデーションの境に線が薄くみえ、さらに動画なので動くとその階調も動きとても見苦しい映像になってしまって困っています。

初心者ですのでどこかの設定が抜けているなどあるのかも知れません、明らかなる知識不足で申し訳ないのですが、グラデーションの階調、境目が目立たなくでき、それを綺麗な状態で書き出し、その書き出したものを素材として綺麗な状態で別のコンポにてh264で書き出したいです。

どうかご指導をお願いいたします。

 

以下詳細↓

 

★実行してみたこと

 グラデーションの境目を目立たなくするように、コンポを16や32bitにして調整レイヤーに8bit用のエフェクトを入れました。

それでもh264で書き出すと生じてしまうので、書き出しをh264ではなく afterEffects上でapple prores422や、なし(非圧縮8bit)などにしてチャンネルRGBのQuicktimeで書き出した所、少し階調が気にならなくなりました。

 

●『質問1』

この方法で合っていますでしょうか?

また、100%綺麗に階調の境目が消えてはいないですが、こちらを100%解消する方法はあるのでしょうか?

________________________

 

★実行してみたこと

上記で書き出したmovを素材として別のコンポに使用したいのでmovとして入れました。

そのコンポは32bitにして念の為そのコンポにも調整レイヤーに8bit用のエフェクトを入れておきました。

その状態でMediaEncoderにてh264で書き出すとそのmovの部分のみ点滅してエラーのようになっています。

movが画質が良すぎで合わなかったのかと思いそのmovをh264のmp4で書き出し直した所、やはりそれだけで階調飛びが顕著に現れてしまいます。従って綺麗な状態でのmovが素材として使えない状態でいます。

 

●『質問②』

movをmp4として書き出すと点滅する理由はなんなのでしょうか?

階調とびを直すとmovになり、movを素材として使いh264のmp4にするとその部分のみ点滅してしまう。

今までアルファ付きのmovはPC上では再生して見れませんでしたがafterEffectsへ読み込むと見られて素材として使えるのでmovは対応していると思っていました。

今回も読み込みはできているのに何故か、書き出し後の映像が不具合が起こっていて困っています。

 

使用PC

IMAC corei7 Retina5K2020

AEバージョン2022

 

This topic has been closed for replies.
Correct answer Ckun

こちらがその動画になります。


添付していただいた動画を、ブラウザによる再生で拝見いたしました。

十分キレイな映像だと思います。

 

>>>私の考え方は、10bpcなどのコーデックで書き出す前提で、作品としては16bpcあるいは32bpcの品質で処理させるということをベースとしております。

 

MeでMukaida様が言っていた

・H264でカスタム にして
 ・プロファイルのチェックを外しHight 10 にして
 ・カラーベースを書き出し をRec2020にして行ってみました。

の設定でのことでしょうか?

 

こちらに関しては、少し異なります。

 

Mukaidaさんがお書きになられていた該当箇所については、「諧調がなめらかな10bpc」でディザを加えずグラデーション本来の品質で作成し、「10bpcで再生できる環境・モニター」で再生する、という高品位な制作・再生環境を意図してのものかと思います。

 

それに対して私の考え方は、制作の過程では「10bpcにて高品位の映像」で作業するものの、放送・配信は8bpcになるので、8bpc変換後にバンディングが発生しないよう、10bpcでの制作の段階で対策施す、という考え方です。

 

理想的には、10bpcで完成させた原版から8bpcの放送・配信用素材に変換する際に、単純な切り捨て(バンディングが発生しやすい)ではなく、ディザ入を入れるのが望ましいと考えています。(やや不正確ですが、ざっくり申しますとドットで濃淡を表す印刷物のようなイメージで、8bpcの範囲で10bpcの諧調に近づけることができる理屈です。)

 

しかしながら、10bpcの原版から8bpcの素材に書き出す際にそこまで気を使ってもらえない(機器の仕様でできない)ことも多々ありますので、それであれば10bpcで作業しているときに少しディザのようなものを足しておけばよいかな、という考え方です。

 

10bpcから8bpcへ変換する際のバンディング対策については、Adobe外のサイトですが、こういった記事が参考になるのではないかなと思います。

 

※Inter Beeのニュース記事です

【ニュース】ソニーPCL、映像用階調補完技術“SBMV Extend”を採用したBD制作サービスを開始 (https://www.inter-bee.com/) 

 

>>効果として用いるエフェクトとしては、8bpcのみ対応のものの使用は避けております。

すみません、こちらが理解できませんでした。

 

こちらについては、8bpcでの放送・配信は十分に考慮するけれども10bpcや16bpcで完成原版を作成する(デファクトスタンダードのProRes 422 HQは10bpcですし……)という状況でのことでございます。

 

16bpcやそれ以上の諧調で作った滑らかなグラデーション素材をはじめ、10bpcや16bpc収録の撮影素材の諧調は捨てたくないので、それらの素材に直接影響するエフェクトとしては8bpcのみ対応のものは避けています。

(多くの場合は、そこまで気を使うこともないと思いますが、逆に8bpcのエフェクトにこだわる必要もないわけでして……。)

 

簡単に書くと、せっかく10bpc撮影できるカメラを使って16bpcでグラフィック素材を作成して10bpcのProRes 422 HQで書き出すのに、8bpcのみ対応のエフェクトを使ってしまっては素材の諧調が無駄になる、という考え方ですね。

 

>Ckun様であれば16,32bpcのコンポで8bit用のエフェクトで対応した後、グラデも多少制作中に工夫した後、念のために諧調とびを起こさないように書き出すためにはどのように設定しますか?

 

正直に申しますと、あまり繊細な処理はしていないことがほとんどです。

私の場合、納品したものがさらに何かしらのエンコードされることがほとんどです。

 

例えば、テレビ放送であれば、納品は1920×1080 4:2:2 8bit 50MbpsのMPEG2ですが、放送は1440x1080 4:2:0 8bit 10Mbpsちょっとまで圧縮されます。

 

YouTubeでしたら、20Mbps程度のH.264で書き出したファイルをアップロードしても、YouTube側で再圧縮されて、実際の配信は半分程度かそれ以下のレートかと思います。

 

なので、納品したファイルでバンディングが見えなかったとしても、最終的な配信時に圧縮によるアーティファクトとしてバンディングが出てくることもありますので、その辺はわりきりが必要かなと思います。

 

2 replies

Community Expert
December 7, 2022

試したところ、HEVC 10bitで書き出せば元の画像に近くなります。


出力方法の例ですが、
After Effects のレンダーキューでProRes 4444 (色深度:数兆色)で書き出し、Apple Compressorに読み込み、HEVC 10bitカラー(4:2:2)の設定でmp4に書き出しています。
マルチパスにチェックを入れるとファイルサイズを小さくできます。


Media EncoderでもHEVC 10bitを選択すれば、綺麗にグラデーションが表示されると思いますが、4:2:2には対応していなかったと思います

 

但し、H.264に限定されている場合は、仕様により改善できないと思います。

 

(追記)
自分用の素材として利用されるならProResで色深度を数兆色に設定してレンダリングするだけで良いと思います。

RAURIAuthor
Known Participant
December 8, 2022

ご丁寧にありがとうございます。

初心者のため、用語など知らないことが多々あり少しばかし検索してみましたが、Apple Compressorとはまた別の有料ソフトのようでしたが合っていますでしょうか?

であれば、現在はAdobeのCCに入っていてこれ以上今は外部に料金をかけられないのでそれ以外の方法(adobe内や無料でできる方法)などあれば教えていただきたいです。

 

● ProRes 4444 (色深度:数兆色)の設定は

チャンネルはRGBのみでも+アルファでもどちらでもよくて

Quicktimeで形式をProRes 4444にし色深度を数兆色+ こちらのみ変更して書き出しでよろしいでしょうか?

実際にレンダキューにて上記の設定にして素材のもの(グラデーションを使ったコンポ)と、それを入れた作品の書き出し用のコンポ、どちらも同じ設定で書き出したところ、今回は点滅のエラーがならずにとても綺麗に書き出すことができました。

ありがとうございます。しかし、同じmovで書き出しているのにエラーが出なかったのは何故なのか、なぜ以前は点滅が出たのか原因が分からずにいます。

 

とりあえずこちらをファイルサイズを軽くしないとiphone上で表示できなかったりずっとクルクルとデータがスムーズに再生もできない状態、もしくはアップロードや提供する際に大変なのでh264に軽くしないとと思いMedia Encoderでh264をするとやはりグラデの部分は諧調とびになり、戻ってしまっていました。

 

● H264以外で、Media EncoderやAE上でグラデを綺麗に保ちつつファイルサイズを小さくする方法はあるのでしょうか?

あるとしたら方法を知りたいです。

(この状態 Quicktimeで形式をProRes 4444にし色深度を数兆色+設定 )から少しでもファイルを軽くするとグラデは元に戻ってしまうということでしょうかね。

もしそうであればグラデを綺麗に書き出してそれをスマホや投稿サイトなどに軽くして持っていくにはApple Compressorを使用しないと不可能ということで現状は諦めるしかないのでしょうか?

 

Community Expert
December 11, 2022

返信遅くなり申し訳ございません。


★ Mukaida様

そうとは知らずにブラウザで見ていたので、改めてダウンロードしてQuickTimeで見ようとしましたが互換性がないようでこちらの(添付写真 01)の注意喚起が出てきました。
念の為強制で再生しましたがバグのようでこのような表示で(添付写真 02)グラデーションにはなっておりませんでした。従ってダウンロードしたものをIMACで表示できません。どうしたら良いでしょうか?

なお、Meでの設定ですが、プロファイルのチェックを外すと設定できました。
ありがとうございます。
 ・H264でカスタム にして
 ・プロファイルのチェックを外しHight 10 にして
 ・カラーベースを書き出し をRec2020にして行ってみました。

※それ以外の設定はどこも変更していません。
しかし、書き出したものを見ようとするとやはりダウンロードしたデータと同じく注意喚起で再生不可能で強制で再生するとバグのようにこちらも映像に乱れが起きました。
何故でしょうか?

 

 ーーーーーーーーーーーーー

 

>>問題のグラデーションについては、開始色から終了色までの距離が長いと、まだらな線が出ます。
さらにモニター画面が大きいほど、より目立ちます。

についてですが、二つのグラデの場合二つのポイントとポイントの距離の位置が物理的に遠いと諧調とびが目立つということでしょうか?
それとも色の明度の遠さでしょうか?
白と黒のように明暗差があると出て、黒と濃いグレーのように色にあまり差がないと諧調とびが軽減されるという意味でしょうか?

 

また、モニターの画面が大きほどと乱れるのことですが、現在、IMAC27インチでもiPhone(SE第二世代)でも同じように諧調とびが目立っております。
画面の大きさの程度はどの位の違いで変わってくるのでしょうか?

 

ーーーーーーーーー

 

コロラマの件ですが、初めて使うので理解していない質問になるかもしれません。
現在、平面にかけているグラデーションにプラスでコロラマを入れてみました。
すると今あるグラデ色がカラフルな虹色に変わってしまいました。カラフルのままとりあえず反復を5とかにしても、線が細くなるだけで滑らかなグラデーションにはならず。。(添付写真
03)

※コンポは32bpcで作っているのでコロラマのエフェクトはエラーのビックリマークは出ています。


教えてくださっているのは滑らかなグラデーションの作り方で合っていますでしょうか?
であれば反復を入れるたびに色との境目がどんどん増えていき値0が一番滑らかなような気がするのですが、反復に3〜5入れる理由はなんでしょうか?
今あるグラデーションにコロラマを乗せて滑らかにする方法があるならそちらをもう少し詳しく知りたいです。

 


=========================================

=========================================

 

★ Ckun様

 

前回宛名を書き忘れていましたが、Ckun様宛と理解いただいてありがとうございます。

Mukaida様のものをさらにお試しくださり感謝です。上記同様ダウンロードしてみてもエラーで綺麗な表示で見ることは不可能でした。

 

>>「8bit420_H264.mp4」と「8bit420_H264_v2.mp4」でのバンディング映像について

ですが、8bit420_H264.mp4

となっている方はブラウザ環境でバンディング見えています。
8bit420_H264_v2.mp4

はブラウザ環境で諧調とびはあまり見えずノイズが濃い感じでぼかされている?ように見えますが、なだらかではあるかと思います。
ノイズを気にしなければ諧調とびはほとんど?目立たないと感じます。
ちなみにこちらの動画はダウンロードしても QuickTimeできちんと注意喚起なく見ることができています。そちらでもグラデーションの見え方は、同じような表示でした。

 

参考までにこちらはどのように作られ書き出したのでしょうか?

 

ーーーーーーーーーーーーーーーーーー


>>ノイズの値についてノイズを4%付加とのことですが、8Bpc用のHLSノイズエフェクトには色相・明度・輝度と%項目がございます。
どの数値を4%にされてるのでしょうか?

 

ーーーーーーーーーーーーーー

 

>>Ps8や16bpc未処理、処理済みの動画について

わざわざフェードアウトまで同じような色味で行ってくださりありがとうございました。
見た結果から言いますと、未処理のものはバンディングが多く処理済みは少し少ないものもあったので処理済みの二つをダウンロードして QuickTimeにて再度再生しました。
見え方はそこまで目に見えて8と16とで気になりませんでした。

しかしフェードアウトした瞬間だけどちらもIMAC上ではバンディングしております。瞬間のスクリーンショット(添付写真 04 (8bpc))(添付写真 05 (16bpc))になります。

もしかするとグラデーションを暗転することでよりバンディングが目立ってしまうのでしょうかね?
とすると、暗転せずいきなり黒くするという手もあるかも知れませんがやはり雰囲気が変わるとなると残念ではありますよね。

ちなみにですが、Photoshopで作るグラデーションとAe上でつくるグラデは何か変わるのでしょうか?Ae上でキーフレなどで動かさないのであればグラデをAe上で作らない方が良いのでしょうか?

 

ーーーーーーーーーーーーーーーーーーーー

 

>>添付しているMP4は、全て8bit 4:2:0のH.264コーデックのファイルです。

とのことですが、ちなみに私は現在コンポは32bpcで作っていますが、H264で書き出したら8bpcで書き出されるという理解で合っていますでしょうか?

設定はいつもカスタム設定はせず「ソースの一致・高速ビットレート」で書き出ししているのですが、それは送ってくださったものと同じ8bpcで4:2:0のh264のmp4で書き出されているのでしょうか?

それとも32bpcで作ったコンポは何も設定しなくても32bpcで必然と自動的にその画質で書き出されていくのでしょうか?

 

 


動画は、M1 MacのAfter Effects(Beta) を使ってH.264に書き出しています。
QuickTimeで開くと、同じエラーは出ますが色は正常に出ています。


先ほど、このフォーラムからダウンロードしてみましたが、エラーはなく再生できました。
QuickTimeで再生できない場合は、再度ダウンロードしてもらうか、VLCプレイヤーで確認して下さい。

After Effects から書き出す場合は、8bitしか選択できないので一般的な動画になると思います。


コロラマは16bpcまで対応しているので、32bpcで使用すると三角マークが表示されます。
作品にもよりますが、今回は、色深度16bit設定で大丈夫です。


コロラマの設定は、次回追記します。

Ckun
Community Expert
Community Expert
December 7, 2022

おそらく、諧調飛びが目立ちやすい効果をお使いになられている状況だと思うので、根本解決はできないかもしれませんが、前半の部分について返信してみます。

 

>階調とび?バウンディング?マットバンド?というのでしょうか、

 

諧調飛びやバンディングと呼ばれることが一般的かと思います。

 

グラデーションとそうでない単色との境界で発生する目の錯覚を(発見者の名前から)マッハバンドと呼びますが、映像業界内の一部では混同して扱われることもありますので、諧調飛びのことをマッハバンドという方もいらっしゃるかと思います。

 

>コンポを16や32bitにして調整レイヤーに8bit用のエフェクトを入れました。

--中略

>●『質問1』

この方法で合っていますでしょうか?

 

諧調飛びを目立たなくする「ディザ」(細かいノイズ)を入れる手段をとられているようですので、手順としては正しいと思います。

 

しかしながら、H.264に書き出しますと、ビットレートにもよると思うのですが、せっかく入れた「ディザ」を人間の目には知覚できない変化として圧縮時に丸め込まれるような処理が行われるので、バンディングが目立つようになったのではないかと思います。

(H.264の圧縮率が高い理由のひとつです。)

 

>また、100%綺麗に階調の境目が消えてはいないですが、こちらを100%解消する方法はあるのでしょうか

 

残念ながら、完全な方法はありません。意図的にノイズを入れていただいたり、バンディングが目立たない程度の明暗差のあるグラデーションにしていただいたり、演出効果の方で軽減できる策を探るのも一つの方法かと思います。

 

なお、ご質問の2については、私の手元にIntel Macが無く確認できないので、同様の環境をお使いの方から返信が付くことを期待いたします。

(のちほど、M1 Macで試してみようと思います。)

RAURIAuthor
Known Participant
December 8, 2022

文ごとに丁寧な返信いただきありがとうございます。

検証も試みてくださるようで感謝いたします。

対処の方法も間違っていなかったようで安心しました。

「諧調飛びやバンディング,マッハバンド」とそれぞれ言い似た内容なのですね。微妙に言葉や漢字を間違っていたのでこの機会に覚えてみます。

また、h264にての書き出しでは制作物の内容を変えない限りは直らないようなのですね。。

 

● ちなみにこの書き出したその部分が点滅しているのはエラーなのでしょうか?

mov(今回のapple prores422や、なし(非圧縮8bit)などの高解像度のもの)をh264に書き出しし直すとそうなってしまうのでしょうか?

アニメーションでアルファ付きでmovで出していた今までの素材はh264にさらに書き出していても、特に点滅などのエラー?は今まで起きたことがなく困っていて。

一番はその点滅さえなくなれば解決できるのかと思っていました。

先の方法でのmovの素材のままh264にすることで少しは綺麗に出来上がるのかなと思ったり。

それが不可能なのはやはりそのmovの書き出すときのコーデックの設定が悪いのでしょうか?

 

Ckun
Community Expert
Community Expert
December 8, 2022

のちほどM1 Macで試すと書いておきながら、未だ試すことができていないのですが、

 

>● ちなみにこの書き出したその部分が点滅しているのはエラーなのでしょうか?

 

この現象はエラー(なんらかの不具合)とお考えいただいて差し支えないと思います。

 

操作のミスといったユーザー側の問題では無いと思いますので、根本的にはエラーの原因であるバグか何かを修正しないと解決しない問題では無いかなと、思っております。

 

しかし一方で、これが解決することでバンディングの問題も解決するか否かは、現段階では分からないのが正直なところです。

 

まだ私自身が状況を精査できていないのですが、以前はアニメーション圧縮で問題が無かったとのことなので、今回もProResや非圧縮YUV8bitではなく、「アニメーション」で書き出したものをお使いいただくといかがでしょうか。