雅丹地貌的形成主要源于 风蚀作用。在极干旱的环境下，湖泊和河流干涸后，地表的沉积物因干缩而裂开，风沿着这些裂隙不断吹蚀，使得裂隙逐渐扩大，形成了众多不规则的背鳍形垄脊和宽浅沟槽。雅丹地貌的形成还需要具备两个重要条件：
地质基础，即湖泊沉积地层；
外力侵蚀，包括沙漠中强大的定向风的吹蚀和流水的侵蚀。
在长期的风力作用下，这些土丘的下部遭受强烈的剥蚀，逐渐形成向里凹的形态。若土丘上部的岩层较为松散，在重力作用下容易垮塌，形成陡壁，进而构成雅丹地貌。
此外，雅丹地貌的形成和发育经历了一个漫长的过程。早更新世，敦煌盆地以寒湿性气候为主，盆地边缘地带多为冲洪积层和冲积相砂砾石层沉积。中更新世，气候演变为温润多雨，水量剧增，形成东起安西、西至罗布泊以西的浩瀚的淡水湖，沉积了一套灰褐色、灰绿色、土黄色泥砂和黏性土层的典型淡水湖相沉积。晚更新世，盆地缓慢抬升，气候日趋干旱。中更新世，湖泊相地层经抬升出露于地表后，在暂时性水流的作用下，沿着岩石的断层和柱状节理方向，岩石被切割冲刷成垄岗状地形。由于风长期的猛烈吹蚀，松软的沙土石被卷走，地表被侵蚀成颇具规则的沟谷，而坚硬的土石层则成为高矮不等的土岗，强风又刀刻斧凿般地把土岗雕成一个个似人非人、似禽非禽的造型，“石人”、“石佛”、“石蘑菇”、“孔雀”、“宝塔”、“蒙古包”等，千姿百态，维妙维肖，无奇不有。夜幕降临之后，强劲地风发出恐怖的啸叫，犹如千万只野兽在怒吼，令人毛骨悚然，“魔鬼城”也因此而得名。
