据史料记载，宋太平兴国四年（979年），僧人妙惠在古田旧城三保后街建造了吉祥寺，在寺内也同时建造了石塔一座，取名吉祥塔。塔经大德九年间、明成化年间两度重修。后塔身欹斜，民国二十四年雪峰寺主持圆瑛法师捐募重修。
吉祥寺塔原在旧城吉祥寺门前，是千年古城留下来的唯一建筑标志。1958年因建古田溪水电站蓄水库，按原形迁建于新城松台狮公山。旧城原有5座塔，只有1958年核定为省级文物保护单位吉祥寺塔迁移出，其余同古城淹没在水库里。
专家先将古塔每块石头编号，而后将石头按顺序逐块拆下，再按原型恢复原貌，为大型文物搬迁和保护，开创了成功的先例。吉祥塔异地搬迁，文物风貌秋毫无损，被国家文物局列为建国以来文物保护十大成果之一。在对旧塔进行拆除的过程中，发现塔身内部第五层以下有半截石塔，被拆除作为迁建的塔身垫石。