“夜郎自大”中的“夜郎”是夜郎国，夜郎是我国在西南地区由少数民族先民建立的第一个国家。西汉以前，夜郎国名无文献可考。夜郎之名第一次问世，大约是在战国时期。夜郎囯在夏商时属百濮地，百濮在今云南、贵州，四川至江汉流域以西一带。

夜郎国被中原政权记述的历史，大致起于战国，至西汉成帝和平年间，夜郎王兴同胁迫周边22邑反叛汉王朝，被汉使陈立所杀，夜郎也随之被灭，前后约300年。之后古夜郎国神秘消失，其中一部分夜郎人被流放到贵州镇宁一带。这个古老的文明在中原史籍记载中留下了一团迷雾。

“夜郎自大”这句成语典出自《史记·西南夷列传》：“滇王与汉使者言曰：‘汉孰与我大?’。及夜郎侯亦然。以道不通，故各以为一州主，不知汉广大。”

说的是公元前122年，汉武帝为寻找通往身毒(今印度)的通道，曾遣使者到达今云南的滇国。期间，滇王问汉使：“汉与我谁大?”后来汉使途经夜郎，夜郎国君也提出同样问题。因而世人便以此喻指狂妄无知、自负自大的人。