零陵的名稱來源於上古五帝之一的舜帝。
根據《史記》的記載，舜帝南巡時死於蒼梧之野，並葬於江南的九疑山，因此被稱為零陵。其中「零」字在古代文獻中與「泠」字通用，表示落淚或流淚的樣子，這與舜帝的兩個妃子娥皇和女英千里尋夫並悲傷落淚的傳說有關。她們的淚水染竹成斑，故稱「斑竹」或「湘妃竹」。
另外，還有一種說法認為「零」字代表數字「0」，意味著「沒有」，象徵著舜帝沒有具體的陵墓。還有一種解釋是，「零」字代表數學符號「∞」，意味著「無窮大」，象徵著舜帝的陵墓遍布九嶷山。
總的來說，零陵的名稱與舜帝的傳說和歷史背景緊密相關。