相手が既婚者だった

好きになり夢中になってる人がいます。
先日その人が既婚者ということがわかり驚きました。
自分は独身です。
相手からは独身と嘘をつかれていました。
何度か関係も持ちましたが、向こうの旦那さんにバレたら怖いなと思います。

すぐにでも別れた方がいいですよね？
でも、すぐに嫌いにはなれません。

もし、独身、既婚者でお付き合いしている人はどのような事に気をつけてお付き合いしていますか？