選択範囲の境界がぼやける

まず、以下の設定を確認してください

コンテキストタスクバーからではなく、選択系ツール（オブジェクト選択やクイック選択）に持ち替えてから、オプションバーの被写体選択ドロップダウンメニューを確認し「クラウド」になっているか

または環境設定の以下がクラウドになっているか（ここを変えるとコンテキストタスクバーの設定も変わります）

あと、一度作った選択範囲がボケている状態では拡大・縮小してもボケたままですから、レイヤーマスクを選択してCmd+Opt+Rか選択範囲メニュー＞選択とマスクを呼び出し、

 ↑このあたりを操作してみるとか。