相传在平安朝时代曾经为京都贵族所仰慕的歌仙小野小町在年老的时候拖着日渐衰弱的身子游历各国。但是当她来到了这个地方的时候却不幸的染上了重病，虽然她往药师堂进行了恢复健康的祈求，可是始终没有灵验。在失望之下，小野小町投入了三杉川中。一代的歌仙就此离开了人间。她去世后，当地的人为小町立起了一座冢，同时筑起了石碑，这座冢就是今天的小町冢了。