武士的起源是多元化的，主要是在實踐中以各種手段占有土地的社會集團。在墾田運動中形成的莊園，相互之間往往是犬牙交錯，農民的墾田、口分田也與王公貴族、寺院神社的莊園土地連在一起。莊園主之間為擴展莊園不斷發生土地糾紛，實力強大的莊園主自恃勢大力強，常常派本莊園的莊民到他人的領地上強行開墾和耕作，建立新莊園。被侵占領地的莊園主為了維護自己的生存利益則拚死抵抗，莊園主之間的土地紛爭由此迅速加劇。
由於這些莊園主的利益得不到國家的保護，也由於國家失去了解決矛盾紛爭的權威和力量，莊園主之間的土地紛爭便常常訴諸武力。而且，莊園產生後，莊園主蠶食「公領」土地和國司限制、取締莊園的矛盾也日趨尖銳化。於是，在土地糾紛和爭鬥中，莊園主便將宗族子弟和非宗族子弟中的能力出眾者挑選出來，進行必要的武術訓練，將其培植成為兵士，此即武士的最早起源。他們是國家征繳租稅和徵調勞役的基本群體，大多力單勢孤，又處於與自身利益密切相關的土地爭奪的前沿，對武力的需求最為迫切。因此，武士首先以他們作為母體，最先形成名主階層的地方，便是最早產生武士、形成武士團的地方。名主將自己武裝為武士治下的莊民—自耕名主和下人等武裝起來，以對抗國衙官吏，維護和擴張莊園土地。