鯖上のスクリプト編集のために mac から linux 鯖に繋いで vim で編集しているのですが、BackSpace キーを押すと　^? と表示されるだけで本来の動きをしてくれず困っていたのですが、やっと直し方がわかりました。
mieki256’s diary さんの この記事 によると、

.vimrcに、
noremap ^? ^H
noremap! ^? ^H
noremap ^H
noremap! ^H
と書いたら上手くいった、ようにみえる。

とのこと。
試しに vim 上で

:noremap ^? ^H

:noremap! ^? ^H

の２文を打ってみたところ、無事 BackSpace キーで一文字前の文字を消すことができたのでこの２文をホームディレクトリ内「 .vimrc 」に追記。
ちなみに「 ^? 」は「 Ctrl + V と打ってから BackSpace 」、「 ^H 」は「 Ctrl + V と打ってから Ctrl + H 」で入力できるようです。