窦德玄，窦威从孙，洛阳（今河南洛阳）人。隋朝大业年间，起家为国子学生。起初，任唐国公李渊丞相府千牛，在唐太宗李世民在位时，不太显贵，后来唐高宗李治上位，因他是旧臣，从殿中少监提拔为御史大夫，这年又升任司元太常伯。

麟德初年，窦德玄进检校左相，克己勤政，天子曾经临朝，询问其廉洁公正之事迹，加以赏赐。居位多年，辅助封禅事务，和李勣皆为封禅使。皇帝停驻濮阳，问古时所谓的帝丘，窦德玄回答不上来，许敬宗全部说出来龙去脉，皇帝称好。许敬宗向人自夸，窦德玄知道后，不和他计较，众人佩服他的度量。封禅礼告成，进爵两级。因弟弟窦德远没有爵位，愿意和他分封，下诏允许，所以窦德玄封钜鹿县男，窦德远封乐安县男。窦德玄迎时取合，从来没有过失，但也没有其他补益。

乾封元年（666年）去世，终年六十九岁，追赠光禄大夫、行左相、都督幽相易檀平妫燕六州诸军事、幽州刺史，谥号为恭。