向こうから、事前にサイトURLの提示はあったんだろ?
それを受けて掲載を了承、金をもらったのなら掲載義務はあるはずだぞ。

広告掲載基準として、詐欺、ワンクリサイトは掲載しません、掲載後発覚したら掲載停止します、
などの記述があれば交渉の余地はあるけど、そういう対策もしてなさそうだし。

金を返して契約破棄するか大人しく掲載するかしかないような貴がするな。