게임엔진의 개념이 본격적으로 자리를 잡은 것은 1996년 발매된 FPS(first person shooting)게임 <퀘이크(Quake)>이후 3D게임이 보편화되면서부터였다. 이 게임의 프로그래밍과 엔진 제작을 담당했던 개발자 존카멕(John Carmack)이 게임엔진을 오픈소스로 공개하면서 범용적으로 사용할 수 있는 게임 엔진이 본격적으로 등장했다. 게임 엔진에는 3D 그래픽렌더링(rendering) 엔진, 물체들 간의 충돌과 물리적 환경을 구현하는 물리엔진, 인공지능(artificial intelligence) 캐릭터의 제작, 빛과 조명 조절, 맵 에디터(map editor), 카메라 효과 구현, 프로그래밍 언어를 쉽게 편집할 수 있는 스크립트 에디터(script editor) 등이 포함된다. 게임 회사들에서는 엔진 내부에 존재하는 라이브러리와 기능들을 개발하는 게임에 맞게 조금씩 수정하여 사용하는 것이 일반적이다.
FPS 게임 이후 3D 게임의 대중화를 거치며 게임엔진이 본격적으로 등장했다. 게임엔진에는 물리엔진, 맵에디터, 스크립트 에디터 등이 포함되며, 게임 회사는 게임에 맞게 엔진 기능 일부를 수정하여 사용한다.