Sivas il merkezinin ortasında bulunan bu caminin yapım tarihi yakın tarihlere kadar kesinlik kazanamamıştır. Vakıf kayıtlarında ise Sultan Alâeddin ve Sultan II. Kılıçaslan’ın oğlu Kudbeddin Melik Şah’ın isimleri geçiyordu. 1960’lı yıllarda Ulu Cami’nin restorasyonu yapılırken ortaya çıkan kitabesi birleştirilmiş ve buna dayanılarak da caminin Kudbeddin Melik Şah (1192-1193) oğullarından Abdül Ahi tarafından 1197’de yaptırıldığı anlaşılmıştır. Cami, I.İzzettin Keykavus Döneminde 1212 yılında onarılmıştır.

Bu cami Anadolu Selçuklu camilerinin en eskilerinden bir örnek olup, harap bir durumda iken 1960’lı yıllarda onarılmıştır.

Kitabe:

”Bu mescit İzeddin’in oğlu Melik Kudbeddin Melik Şah zamanında Allah’ın rahmetine muhtaç Abdül Ahi tarafından yaptırılmıştır.”

Cami bir avlu içerisinde olup, 56.00x33.00 m. ölçüsünde dikdörtgen planlıdır. Oldukça sade bir taş işçiliği gösteren camide süsleme elemanına rastlanmamaktadır. Duvarları kesme taştan yapılmıştır. Kuzey yönündeki üç kapı ile içerisine girilen camide beş sıra halinde enine dizilmiş on sıra halinde elli adet yontma taş payeler üst örtüyü desteklemektedir. Bunlardan orta sahnın güney duvarı önüne bir niş halinde silindirik mihrap yerleştirilmiştir.

İbadet mekânı kuzey ve güney doğrultusundaki yüksek duvarların üzerinde bulunan kemerli pencerelerle aydınlatılmıştır. Üst örtü 1.20x0.90 m. ölçüsünde birbirlerine sivri kemerlerle bağlanmış payelerin taşıdığı kirişler üzerine düz damlıdır. Son onarım sırasında üzerine kurşun kaplı bir çatı eklenmiştir.

Caminin güneydoğu köşesindeki minare 10 m2’lik bir alanı kaplamakta olup, 35 m. yüksekliğindedir. Son derece güzel bir taş işçiliği olan minarenin kaidesi sekizgen planlıdır. Gövdeyi oluşturan geometrik desenler tuğlalarla meydana getirilmiştir. Bunun üzerine birkaç sıra halinde firuze çiniler yerleştirilmiştir. Minare gövdesi tamamen tuğladan olup, üzerindeki çiniler yer yer dökülmüştür. Gövde üzerinde, şerefenin alt kısmına rastlayan kufi bir yazı frizi ile mukarnas dolgular yerleştirilmiştir.