Ответ 1
Другой ответ и комментарии были правильными в то время, но ситуация теперь изменилась.
Начиная с Qt5.5, Qt3D теперь включен как "предварительный просмотр технологии" (я интерпретирую эту фразу как указание на то, что она не развертывается уже, поэтому могут быть некоторые ошибки, и API может измениться).
Очень важно отметить, что Qt3D, доступный для предыдущих версий Qt, был Qt3D 1.0, а версия, включенная в Qt5.5, - v2.0, разработанная другой командой разработчиков и имеет совсем другой API.
Дополнительная информация от новых разработчиков доступна здесь.
Отметим также, что Qt3D v1.0 никогда не включался "правильно" с Qt в любую версию, хотя был (по-видимому) разумно прост в построении вместе с Qt, если он был извлечен из git с версии с 5 по 5.4.