順手牽羊的故事：春秋晉國，戰亂不休。一天，趙朔將軍帶著兵馬在樹林裡安營紮寨，正準備歇息，忽聽馬蹄聲響，從山溝里衝出一隊人來。為首一員小將，年紀不大，但英勇過人。趙朔將軍連忙迎戰，及至兩軍會合，原來是智伯部下大將。他見趙將軍武藝高強，心中佩服。兩軍合在一起，便不再交戰。那員小將向趙將軍借了匹馬，帶了幾名隨從，把盔甲、馬鞍等物全留下作抵押，揚長而去。
第二天，趙將軍騎著空馬回營。他脫下戰袍，正要交公時，忽聽有人叫門。趙將軍開門一看，原來是昨天借馬的那位小將。他身後還跟幾名軍官，抬著一筐羊肉和一壇美酒，說是他們大王的使者專程來犒勞趙將軍的。趙將軍感到奇怪：我跟他無親無故，他怎么這樣客氣？小將笑說：“昨天一戰，將軍捷報頻傳，智伯聽了很佩服您的武藝和智謀。大王叫我來時也囑咐說，今後遇上像您這樣的英雄，一定再借一匹好馬給他。”
趙將軍明白了原委，便將羊肉、美酒分給將士一起享用。
這個故事中“順手牽羊”的計策用在借東西時趁機採取行動的策略上，順手拿走人家的羊也算“牽了羊”。這就是順手牽羊計策的故事由來。成語中含義則是借著機會毫不費力地獲得成功的意思。
後來，人們在評論某個人辦事順手時都說“順手牽羊”，這也說明了人們對這個計策的深入理解和對成語的靈活運用能力。