羊的祖先至今仍有爭議，但更傾向於盤羊是羊的祖先。歐洲盤羊是惟一生活在歐洲的綿羊類，根據歐洲各地能發現歐洲盤羊的化石，證明它過去曾在歐洲廣泛分布。歐洲盤羊與現代家養的羊外形分別大，它看起來跟盤羊差不多，就是喜羊羊動漫中的盤羊。盤羊因雄性角呈螺旋狀盤曲而得名，它的頭部大，體型粗壯，體長1.2-1.8米，尾長7-15厘米，肩高65-125厘米，體重可達230千克。羊的祖先跟現代放羊的羊習性差不多，常由一頭或少數幾頭成年雄羊率領雌羊或幼體結成十餘只的小群活動。歐洲盤羊以草及灌木的嫩枝、葉為重要食物，多在晨昏活動，冬季時常因大雪難於覓食而遷至較低的山谷，春季又返回高山。
另外，有一種羊，身上帶著濃重的歷史氣息，被動物學家稱為羊的祖先，它們的學名叫高鼻羚羊，是全世界最古老的羊種，它們有個奇怪的大鼻子，而且這個鼻子和象鼻的結構差不多，只是比較短，眼睛有明顯的輪廓，像是電影中的外星人眼球結構，羊角是螺旋槳狀，這些特徵和一般的羊都不同。
還有一種觀點認為，羊的祖先來源於距今4000--3500萬年前的中國，和狼相似，名為安氏中獸是曾出現過的最大的陸生哺乳類食肉動物之一。