相槌神社は、その水が優れた刀剣を作るのに適しているとされる神社脇の井戸があることから、刀作りと強く結びついています。平安時代（794～1185年）後期には、有名な刀鍛冶である五郎太夫安綱と三条宗近が、相槌神社の隣にある井戸の水を使って刃を鍛造したと言われています。その中で最も有名なのは髭切と膝丸で、この2本の刀は、歴史を通じて多くの英雄的戦士を生み出した源氏の宝物と見なされています。神社の伝説では、商業と農業の神である稲荷が、五郎太夫安綱の刀の鍛造を助けるため現れたとされています。 刀が無事に完成した後、この稲荷を祀るため、井戸の隣に相槌神社が建立されました。相槌神社の井戸には、江戸時代（1603～1867）に石が敷き詰められ、そしていつ頃かは不明ですが、神社の銘板に刀工の三条宗近についての記載が加えられました。相槌神社は1710年まで石清水八幡宮によって管理されていましたが、その神徳への信仰が非常に強かったことから、近隣住民が独自に資金を集めて神社の修繕を行うようになりました。 相槌神社の裏手にある山は男山で、神社の脇から出ている参道は石清水八幡宮に続いています。