露天洞穴博物馆是卡帕多奇亚旅行的必走行程，因为只有看了这些古老的洞穴，我们才知道格雷梅今天火红的由来。 火山喷发的岩浆和岩灰冷却凝固后形成厚厚一层凝灰岩，松软的部分流走了，坚实的部分形成了千姿百态的岩石。3000多年前土耳其先人赫梯人，就开始在这些坚固的岩石上开凿洞穴而居，之后，来自中亚的突厥部落和蒙古人、波斯人、希腊人、罗马人一波接一波地都曾在此留下生活痕迹，罗马人甚至还在这儿建立了他们的首都凯撒里亚。不过从这里的特殊地貌来看，没有高大的树木，没有宽敞的天然洞穴，凿洞而居是唯一的选择。 博物馆这里是一片凹地，四周相对平坦，于是洞穴比较集中，像一个村落，早年一批基督徒为了躲避政治迫害逃到这里，在地下开凿建造房屋、教堂，形成了今天这个模样。他们建造了世界上第一批修道院，而整个格雷梅地区的教堂数量超过200个，如钮扣教堂，苹果教堂、黑暗教堂等。 此后格雷梅所在的地区逐渐形成定居点，基督教开始在该地区流行，我们今天仍然可以看到几个石窟教堂中一些保存至今的壁画，有关于圣经的故事，岩石洞窟上刻有许多宗教的符号。