Als je een GUI wilt maken in 3d, zou ik openGL en GLUT gebruiken, of DirectX, en dan zelf knoppen/menu'tjes maken. Ik denk dat dat makkelijker is dan WinAPI te integreren(met uitzondering van DirectX, wat zelf al op WinAPI draait, dus daar zou ik voor gaan)
@Poraft: wat wil je gaan maken dan? een moddeler, level editor, game?
In ubuntu is er al zoiets, dat je door je workspaces navigeert alsof het een kubus is.(als je niet weet wat workspaces zijn, je zou ze kunnen vergelijken met tabbladen in je internetbrowser, maar dan kun je in die tabbladen programma's draaien.)