encore DVD メニュー画面のみ両脇に黒いラインが出る

映像ではなくメニュー画面で両端に黒い画面が出ているとのことなので、メニュー画面を1920×1080ではなく、D1/DV NTSC 720×480のワイドスクリーンで作っていただくといかがでしょうか。

当時のPhotoshopはテンプレートがあったと思うのですが、最近のバージョンにはSD解像度のビデオ向けのプリセットが無いので、手入力で入れる必要があるようです。

【追記】すみません。間違いでした。「すべてのプリセットを表示+」を押すとSD解像度向けのプリセットが出てきました。2枚目の画像を追加します【追記終わり】

もしくは、1920x1080で作成なさっているメニュー画面を別名保存し、Photoshopの「画像解像度」で幅720高さ480に縮小し、「表示」メニューの「ピクセル縦横比」から、D1/DV NTSC ワイドスクリーンを選ぶ方法でも大丈夫かと思います。

私の手元でEncoreが動く環境が無いので確認できないのですが、当時はこのやり方で大丈夫だったように記憶しております。

もしかするとPhotoshopのアップデートの過程でピクセルアスペクト比の端数が変わっていたかもしれないので、もし可能でしたら、Photoshopも当時のバージョンをお使いいただいた方がより確実だと思います。