Rola WinApi w aplikacjach 3D pod systemem Windows ogranicza się do utworzenia pustego okna w którym umieścimy scenę 3D, czy to biblioteki DirectX, czy np. OpenGL. Ewentualnie może służyć do komunikacji użytkownik-komputer, przechwytując sygnały wprowadzane przez użytkownika przesyłane do programu. Pakiet DirectX SDK z tego co wiem posiada takowe funkcje. Za resztę odpowiada już dana biblioteka 3D - manipulacje werteksami figur, oświetlenie, przekształcenia itd.
Znając podstawy WinApi wprowadzenie do umieszczenie sceny w oknie zajmie Ci około 15 minut, ale zaawansowane funkcje tej biblioteki, które nie są niskopoziomowym interfejsem systemu, który pozwala na dostęp do procesu etc. to strata czasu - jeśli planujesz pisać aplikacje okienkowe pod Windows, to przejdź na język C#.
Reasumując, podstawy WinApi mogą Ci się przydać, ale na dłuższą metę nie warto - wiem, bo była to moja pierwsza biblioteka pozwalająca pisac GUI i troszeczkę żałuję, ponieważ jest to przestarzała technologia.
A i jeszcze taki link ode mnie - kurs DirectX od Microsoft Virtual Academy. Nie korzystałem z niego, ale wydaje mi się, że jest na wysokim poziomie. Jedyną wadą może być język angielski.
Pozdrawiam i powodzenia! ;)