オブジェクト選択ツールが使えません

mnm.oz さん、設定を試してくださったのですね。
解決に繋がらず、残念です。すみません。

念のため確認なのですが、↓の動画のようにするとできる「オブジェクトファインダーでの認識」も、機能していませんか？

これが認識していると、四角く囲まなくても、認識している箇所にマウスを重ねると青っぽく範囲が表示され、クリックすれば範囲が選択できます。 

この、オブジェクトファインダーでの自動認識もNGであれば、推測ですが、マシンのグラフィックプロセッサー（GPU）がらみのトラブルな気がします。

次の方法で、GPUを使わない設定を順に試してみてください。

1）「環境設定＞グラフィックプロセッサーの設定」の「詳細設定」から、「OpenCLを使用」のチェックを外して、試してみる。

2）それでもダメなら、「環境設定＞グラフィックプロセッサーの設定」のチェックを外して、試してみる。

1）・2）のどちらかでうまくいくのであれば、お使いのマシンのGPUがPhotoshopに合っていないのかもしれません。次のページにあるトラブルシューティングを、念のため確認ください。

●Photoshop のグラフィックプロセッサー（GPU）およびグラフィックドライバーに関する問題のトラブルシューティング
https://helpx.adobe.com/jp/photoshop/kb/troubleshoot-gpu-graphics-card.html

※特に、グラフィックドライバーのアップデートの確認は大事です。

以上、解決のヒントに繋がりますと幸いです。
.

どんな画像に対し、どのようなレイヤー構成で使おうとしているのか書いてみてください。できれば画像を貼ってこちらに状況を伝えてください。

あと

＞画像をプログラムから開いたり色々試してみましたが

これの詳細を…どういう意味かよく分かりません。