画像解像度を変更

正常に動作していなかったりUIの動作がおかしい、とした場合、katayanagi51さんのおっしゃるように、環境設定のリセットが有効になるとは思います。

ただ今回の場合、元サイズが不明瞭なのと同時に、「600pixel/inchにしたうえで10cmにする」としても、添付されているスクリーンショットからするとその設定ができない状態ではないかと思います。

というのも、見えている部分でいえば、幅85px、高さ183pxのため、600pixel/inchにすると、実寸は10cmにはならないためです（高さのほうでも0.8cmもない状態です）。

そうなると元の数値は何だったのか、設定内容に整合性があるのかどうか、といったところが関わってきます。

また、まずは再サンプルをOFFにしたうえで、幅または高さに今回の10cmの設定を行っていったん確定、その後、再度画像解像度を開いて現時点で600pixel/inchの数値以上を持っているかどうか、持っている場合は再サンプルチェック後に600pixel/inchの設定をし直す、としてみることでの順序だて確認もしてもよさそうには思います。