「日耳曼」這個詞最初是由羅馬人用來指代那些居住在萊茵河和多瑙河沿岸的部落，這些部落的人使用日耳曼語族的語言。
在羅馬帝國時期，日耳曼人通常被視為野蠻人，與凱爾特人和斯拉夫人一起，被認為是未開化的民族。
日耳曼人包括了多種不同的部落和社會集團，如哥特人、法蘭克人、汪達爾人、撒克遜人、盎格魯人和朱特人等。這些部落之間雖然語言和文化相近，但彼此之間也存在著差異。
「日耳曼」這個詞在古代有多種含義，一方面它被用來指代那些使用日耳曼語族語言的部落，另一方面，根據凱爾特人的稱呼，「日耳曼人」意味著「吵鬧的鄰居」，這反映了羅馬人對這些部落的看法。
此外，古羅馬歷史學家波希多尼首次將這個詞用於指代日耳曼人，而「Germanus」一詞在拉丁語中意味著「同父母所生的」，暗示了日耳曼人與羅馬人之間的某種親緣關係。
隨著時間的推移，日耳曼人的文化和語言對後來的歐洲文明產生了深遠的影響。現代德語詞彙「Deutsch」和英語詞彙「German」都源自於「日耳曼」一詞。