ColorBoxっていうLightBox的なjQueryのプラグインを使ってみたのでちょっとメモ。
基本的なところは、公式みたらわかると思うので、ちょっとしたTipsなんぞメモ程度に残しておきます。

やりたいことは、表題の通り。
iframeを表示するのは、

$(document).ready(function(){
  $(".iframe").colorbox({iframe:true, width:"80%", height:"80%"});
});

<a href="frame.html" class="iframe">iframe開くよ</a>

こんな感じで。

あとは、iframeで表示しているframe.html内のjsで、自分自身(frame.html)を閉じたい時は、

$('#close').click(function () {
  parent.$.colorbox.close();
});

なんでもいいんですけど、id=”close”なボタンとかをframe.htmlに設置して、frame.jsを読み込んでボタン押したら閉じれる。
ま、これだったら、最初から付いてるclose押せばいいんですけど、close以外で閉じたい時とかね。

WPにColorBoxカテゴリを追加しようと思ったけど、まぁいいか・・。
そんなに書くことないし。