コンプレックス

もう彼女さんに伝えていたら申し訳ないけど、
単純に人前で可愛いと言われたりするのは何だか恥ずかしいからと言っても微妙な反応なのでしょうか

「外からどう見えるか」が気になる感覚は、特に珍しいものではないと思います。自分の中での自己評価と、相手からの評価に差がある場合、関係の構図に違和感を持つのは自然なことです。

ただ、今回うまくいかなかった原因は気持ちそのものではなく、言い方にあるように感じます。「釣り合っていない」という表現は、ご本人の意図がどうであれ、相手には関係の否定や好意の否定として受け取られやすい言葉です。
　同じ内容を伝えるのであれば、「可愛いと言われること自体は嫌ではないが、まだ慣れておらず人前だと少し照れてしまう」といったように、ご自身の感覚として表現した方が、相手を傷つけずに伝わりやすいと思います。

まとめると、感じていること自体は自然ですが、「外からどう見えるか」ではなく「自分がどう感じているか」に焦点を当てて伝えることが大切だと思います。

自分にベクトル向けすぎなとこも自覚したほうがいいですよ

釣り合わないと言う言葉、合わないと言われたみたいで悲しくなってしまうと思います

誰が見ても本当に綺麗で素敵なあなたから可愛いと言われて嬉しいけど外で言われるのは照れてしまうから控えてね、周りの人からの視線が気になるから
と外ではやめて欲しい旨はダイレクトに、彼女が綺麗で気後れすることは遠回しに伝わると思います

綺麗な人や物、景色を見るだけでドーパミンが放出され幸せな気持ちになるのは脳内科学で証明されてます
外見がいい人と付き合うのは目の保養だけでなく、幸せホルモンまで分泌されます
その対価として周りから羨ましがられたり嫉妬されたりコンプレックスを感じると思いますが、そこは上手に受け止め流してくださいね
頑張ってください

「見た目が釣り合っていない」に彼女さんが同調したら、「彼女さんが主さんを下に見ている」ということになってしまいますよね。
彼女さんを悪者にしたいんですか？
主さんは見た目重視で付き合っているんですか？
言われた彼女さんは傷ついていると思います。

伝え方も悪いですが、主の思考も浅はかです。
他の方が言うように「人前だと恥ずかしい」の方が良かったですね。