Ответ 1
X11 больше не включается в OS X:
https://support.apple.com/en-us/HT201341
Серверные и клиентские библиотеки X11 для OS X доступны из проекта XQuartz:
http://xquartz.macosforge.org/
Я не уверен, что он включает в себя все остальные X-плюсы, такие как Xvfb. В этом случае вы можете скомпилировать его самостоятельно; с этими параметрами:
--disable-xquartz --enable-xvfb --enable-xnest --enable-kdrive
Подробнее здесь:
https://www.xquartz.org/Developer-Info.html
ММО: Похоже, вам будет лучше с помощью wkhtmltoimage прямо на mac osx, устраняя необходимость в X: