文字スタイルのリネームができない。

Windows版でもMac版でもライブラリパネルで名前を編集するためには、リスト表示である必要があります。

デフォルトではグリッド表示（図の上の方の表示）になっていたと思いますので、赤い枠で示したアイコンをクリックして切り替えてください。切り替え後は、各文字スタイルの上で右クリックすると名前の変更ができます。

Adobe XDの製品ページで紹介されている、基礎がまるっと覚えられるAdobe XDスターターキットの中にある中級編のコンポーネント部分で名前の編集の紹介をしておりますのでよろしければそちらもご覧ください
Adobe XDスターターキットのダウンロード