关于月牙泉的成因，有神话般的传说，也有科学的推论。一种传说是，汉武帝时贰师将军李广利征伐大宛国，大军行至鸣沙山下，天气燥热兵马酷渴，李广利掌剑刺山，精诚所至，感动了观音菩萨，观音将手中的净瓶向下抖动了几下，于是银豆似的水珠倾刻而下，汇在一起，从此便形成了月牙泉。
从前，这里没有鸣沙山也没有月牙泉，而有一座雷音寺。有一年四月初八，寺里举行一年一度的浴佛节，善男信女都在寺里烧香敬佛，顶礼膜拜。当佛事活动进行到“洒圣水”时，住持方丈端出一碗雷音寺祖传圣水，放在寺庙门前。忽听一位外道术士大声挑战，要与住持方丈斗法比高低。只见术士挥剑作法，口中念念有词，霎时间，天昏地暗，狂风大作，黄沙铺天盖地地而来，把雷音寺埋在沙底。奇怪的是寺庙门前那碗圣水却安然无恙，还放在原地，术士又使出浑身法术往碗内填沙，但任凭妖术多大，碗内始终不进一颗沙粒。直至碗周围形成一座沙山，圣水碗还是安然如故。术士无奈，只好悻悻离去。刚走了几步，忽听轰隆一声，那碗圣水半边倾斜变成一弯清泉，术士变成一滩黑色顽石。原来这碗圣水本是佛祖释迦牟尼赐予雷音寺住持，世代相传，专为人们消病除灾的，故称“圣水”。由于外道术士作孽残害生灵，便显灵惩罚，使碗倾泉涌，形成了月牙泉。
