回転ビューツールでのブラシの戻りの設定

関係ないだろうと思いますよね普通。ただPhotoshopの場合いろいろ報告が出ています。

Wacom 社製タブレット使用時にメニューや投げ縄ツールなど一部の機能が使用できない（Mac OS 版 Photoshop）

キーの送信なのでタブレットが無くても本来成立するのと無しの環境に2018の体験版入れてみたんですがRからシフトする事は無いようなので元々がそうなんだと思うのですが

いや、普通は

ブラシツール使用→　Rキー長押しして回転　→ Rキー離す　でブラシツールに戻ります。最初に申し上げた通り。

ですから、環境依存の問題です。環境設定クリアから始めてシステム側へチェックを進めていく必要があります。

Wacomドライバが原因であることもありそうなので、環境設定クリアで直らなかった場合はドライバアップデートも試してください。

Spring-loaded-toolsと言われてるヤツですね。通常、Rキーに限らず他のキーでも効くはずです。

Photoshop環境設定のクリアを行ってみるとどうでしょうか？

https://helpx.adobe.com/jp/photoshop/using/preferences.html

これで解決しなかった場合は、使用OSとそのバージョン、Photoshopのバージョン、使用しているPCやドライバなど、回答に必要な情報を追記してください。