老君廟供奉的是道教創始人老子李耳，也是中國道教的發源地，俗稱老子廟，是紀念老子誕辰的廟宇，因此廟的建立具有一定的歷史背景和文化內涵。
關於老君廟的故事，一種說法是當年太上老君化為一個真人來到洛陽城南的關林，傳關令公法旨，並贈他一匹識路的青牛，關公牽著青牛在關林右側的山上安了家。關公去世後，人們把他葬在右側的山下，形成了現在的關林。另一種故事是老君廟在歷史上曾經歷過多次的修葺和擴建，其中一次是在清朝乾隆年間，當時的洛陽知縣何其祥用天文儀器和八卦圖案裝飾老君廟，使得老君廟更加莊嚴、美麗。
此外，老君廟還有“靈簽”以供遊客求籤問卦，許願祈福。老君廟的簽筒共有六層，據說每一層的簽靈驗程度都不同，求卦者需仔細選擇。
總之，老君廟作為道教文化的代表之一，不僅有著悠久的歷史和文化內涵，還有著許多神秘和神奇的故事和傳說，吸引著越來越多的遊客前來參觀和朝拜。