Рекомендую осваивать 3d движки специально для GM - Ultimate3D, Xtreme3D, GMI, или вот недавно появился порт движка Ogre3D для GM - GMOgre3D. Конечно для работы с ними особенно с последним, нужны норм знания в GML.
Конечно на ГМ можно делать 3Д игры без использования длл, но что бы сделать что то нормальное- нужно долго очень учится... Рекомендую Ultimate3D (это длл библиотека для ГМ). Вот до чего доводит Game Maker + Ultimate3D:
Что бы начать изучать Game Maker + Ultimate3D, открывай поисковик и пиши там "Ultimate 3D примеры" PHP
