矩形のツールの一部だけを削除したい。

代表的な方法は ajabon さんが書かれているとおりなので出る幕ではないのですが，付け足しで…。

パス消しゴムツールやはさみツールを使わない方法では，パスファインダーを使う手もあるなぁと思いました（以下手順）。

・上から重ねているオブジェクトをスポイトツールで地のオブジェクトと属性を同じにする。

・ふたつのオブジェクトを選択ツール（黒矢印）で選択し，パスファインダーパネルで「前面のオブジェクトで型抜き」を実行する。

・不用なアンカーポイントをダイレクト選択ツール（白矢印）で削除する。で完成～。

今回の場合は適当なツールとはいえないですが，クローズパスを分離・分割するナイフツールを場合によっては…。

Illustratorの消しゴムツール、はさみツール、ナイフツールの使い分け - DTP Transit 

あと「ふにゃふにゃ」ですけど，もしかしたらオープンパスに対して消しゴムツールを使ったからかもしれませんね。

用語の整理しますが、矩形のツールではなくオブジェクトです。

「パス削除ツール」という名前のツールはありません。

代表的な方法ふたつ紹介します。

パス消しゴムツールと、はさみツール。

習熟してアンカーポイントの概念がわかってくれば、ペンツールだけでもしのげます。