CHAN.MX

Desarrollar tu propio motor es un reto muy cabrón pero si quieres hacerlo podrías usar algúna librería básica de c++ para esto como SFML o SDL que se pueden complementar con otras librerías para tener gráficos 3D pero te voy diciendo que si no tienes experiencia programando con este tipos de librerías se te va a complicar, así que si solo quieres enfocarte en la creación de tu videojuego mejor escoje un motor que esté enfocado para lo que quieres crear o de uso general, para c++ está unreal, yo en lo personal uso Godot 4 porque me gusta la estructura que toman los proyectos con su sistema de escenas y nodos, además de ser muy ligero a comparación de otros, pero hay un vergo de motores tanto con interfaz como con pura programación para diversos lenguajes como raylib, buscalo en itch.io o en google.

> ¿por donde debería emepzar?
Pensando que vas a tomar el camino de un motor ya hecho pues sería bueno aprender las funciones y en general cómo funciona el motor haciendo proyectos pequeños para ir aprendiendo, algo que no sea muy complicado como para que te frustres y lo dejes pero que se te haga interesante para que lo termines. Una vez te manejes mejor en el motor y sepas hacer lo que necesitas para lograr hacer tu proyecto pues puedes aventartelo.