Yüksek (Yüksek) Kilise'nin bulunduğu Analipsis Zirvesi'nin etrafında rastlanan obsidiyen (doğal volkanik camdan) balta başlarının ve seramik parçalarının sayısı, bölgenin Kalkolitik Dönem'de oturmuş olması gerektiğini göstermektedir.

Zamanla bölge Hititler, Persler, Kapadokya Krallığı, Romalılar, Bizanslılar, Selçuklular, Osmanlılar ve Türkiye Cumhuriyeti'ni görmüştür.

Tarihin başından bu yana bölge aynı zamanda birçok farklı dinler için de düzenlenmiştir. Bölgeye St Paul tarafından tanıtılan Hristiyanlık, ilk yıllarda büyük bir dirençle karşılaştı. Roma İmparatorluğu tarafından resmi bir din olarak kabul edilene kadar Hıristiyanlar kendilerini Güzelyurt ve çevresi, Ihlara Vadisi ve Soğanlı gibi yerlere sakladılar.

Kayseri Güzelyurt Aziz Gregory ve fesleğen tarafından öne sürülen fikirler, zamanla Ortodoks mezhebinin temelini attı; buna bağlı olarak Güzelyurt'taki ilk manastırın temeli atıldı.

“İkonoklastik Hareket”, Roma'nın din üzerindeki baskısına tepki olarak başladı. Bu dönemde St. Gregory tarafından önerilen dini sistem o kadar güçlüydü ki bölge bu eylemlerden etkilenmedi ve İkonoklastik Harekete karşı Hıristiyanlar burada koruma buldu.

Aksaray'ın 45 km doğusunda bulunan Güzelyurt, günümüzde bazı değişikliklerle kuruluşundan kurtuldu. Başlangıçta, Roma ve Bizans dönemlerinde, Karaballa olarak biliniyordu. Selçuklu döneminde, isim Gelveri olarak değiştirildi ve Osmanlıların egemenliği altına girdi. Nüfus sakinleri 1924'teki nüfus değişiminin bir parçasıydı. 1960’da, isim gelveri’den Güzelyurt’a değiştirildi ve 1989’da idari bir bölgeye taşındı.

Güzelyurt ve çevresi, Kapadokya ile ilgili özel olanları bir araya getiriyor. 5,5 km uzunluğundaki Manastır vadisi her iki tarafta yüksek kayalarla çevrilidir, söğüt ağaçlarıyla kaplı ic ve bir nehir geçmektedir. İçinde yerin altında ve altında çok sayıda kilise, kaya dairesi ve yerleşim vardır.

14 km uzunluğundaki Ihlara Vadisi, Güzelyurt sınırları içerisindedir. Yüksek (Yüksek) Kilise'nin bulunduğu Analipsis Zirvesi'nde, Selime ve Yaprakhisar'da bulunan birçok peribacaları vardır. 1485 m rakımda bulunan Hasan Dağı'nın eteklerinde yer alan Güzelyurt, bir dağ platosu iklimi ile ünlüdür ve her mevsimde farklı renkler sunan dinlenme yerleri ile ünlüdür.

Güzelyurt'taki önemli yapılar arasında MS 395'te Ortodoks inancının kurucusu ST Gregorios Theologos Kilisesi ve MS 395'te Gregory ve Sivisli, Yüksek (Yüksek), Aziz Anargiros (Bucak), Kızıl (Kırmızı) ), Koç (Ram), Komurlu (Kömür), Kalburlu (Screened), Comlekci (Potters), Azizler Bami, kafe, Kulluk (Adoration) ve çok sayıda yeraltı şehri ve Akropolis ve sivil mimarlık.