Ответ 1
В этом случае вы пытаетесь получить доступ к домену, у которого нет расширения jQuery. Вам нужно сначала загрузить jquery.js в этот документ. Если это будет сделано, будет синтаксис.
var popup = window.open('/some/url.html');
popup.document.$('body').html('test');
Но будьте очень осторожны, при управлении несколькими документами и в общении есть много ошибок и неудобств между разными версиями браузеров и поставщиками.
Было бы лучше, если бы вы поддерживали связь до абсолютного минимума и просто загружали еще один полный html файл в всплывающее окно.