伝承によると、奈良時代の養老年間の頃、行基菩薩様がこの甲斐の国に立ち寄られた折に、川茂の渡し場に澄みきった湧き水の出るところを見つけ、その近くに薬師堂を建立し、『浄土窪精舎』と命名されました。その後、平安時代の康治二年に比叡山延暦寺の天台宗の学僧光順法師がここに住み、寺号を『浄泉寺』と改めました。後に二十四代目の願正法師が、浄土真宗に改宗し、現在の位置に移転しました。火災にもあいましたが、明治二十六年に現在の本堂が建ち、現在の住職で二十二代目となり、今に至っています。