"山南水北"這個成語出自《轂梁傳·僖公廿八年》，原文是"水北為陽，山南為陽。"，這句話的意思是，水的北面和山的南面都是陽面。許慎在《說文解字》中解釋說："陰，暗也；水之南，山之北也。"，進一步解釋了"陰"和"陽"的概念。李吉甫在《元和郡縣誌》中進一步指出："山南曰陽，山北曰陰；水北曰陽，水南曰陰。"，這句話的意思是，山的南面和北面分別被稱為陽和陰，水的北面和南面同樣分別被稱為陽和陰。這種地理方位的命名方式在許多地名中得到了體現，如"華陰"在華山之北，"衡陽"在衡山之南，"江陰"在長江之南，"淮陰"在淮水之南，"漢陽"在漢水之北，「洛陽」在洛水之北。
需要注意的是，《山南水北》也是關東野客的作品《我會記住你,然後愛別人》的開篇之作，講述了兩個年輕人之間的愛怨情仇。