这句成语见于《资治通鉴·唐则天皇后·久视元年》：“天下桃李悉在公门矣。”
唐代武则天当皇帝时，有一个宰相叫狄仁杰，字怀英，太原（今属山西）人。此人德高望重，敢于直言相谏，深得武则天赏识。武则天称他为“国老”（武则天即位时，狄仁杰已八十多）而不直呼其名。就是上朝时，武则天也不让他跪拜，说：见狄公下拜，我浑身都痛。武则天常对其他大臣说：“不是特别重要的军国大事，你们不要去麻烦狄老。”
武则天为了巩固自己的统治，采取多种措施，广罗人才，并让狄仁杰给他推荐能担任将相的人才。狄仁杰推荐了张柬之、姚崇等数十人，这些人后来多成了名臣。有人对狄仁杰说：“你真是位了不起的人物，朝廷里有才能的大臣都是你推荐的，真是桃李满天下啊。”狄仁杰说：“推荐有才能的人为国家效力，不是为私，是我应该做的。”
公元700年，九十三岁的狄仁杰病死，武则天痛哭流涕。自此以后，每当朝廷有大事而众人又不能解决时，武则天常叹息说：“老天爷为什么这么早就夺去了我的国老啊！”
“桃李满天下”这句成语，常用来比喻一个人到处都有学生。桃树和李树，比喻所培植的优秀人才。