金石之交的典故源自《漢書·淮陰侯傳》。該典故講述的是楚漢相爭時期，楚王擔心自己的戰況不利，派武涉去遊說韓信，建議韓信自立為王並與楚國結盟，共同三分天下。武涉對韓信說：「現在你可能以為自己和漢王劉邦的交情深厚，如同金石一般牢不可破，但一旦項王被滅，你終究會被漢王擒拿。」然而，韓信念及劉邦的知遇之恩，認為劉邦不會恩將仇報，因此沒有被說服。
後來，韓信因為猶豫不決而最終被劉邦為了鞏固自己地位而除掉，曾經的「金石之交」也因此化為烏有。後人便用「金石之交」一詞來比喻朋友之間像金石一樣牢不可破、堅不可摧的交情。