Kars, Arpaçay ilçesinde Ani surları içerisinde, Ani Çayı’nın meydana getirdiği vadide bulunan bu kilisenin kitabesinden öğrenildiğine göre; Ermeni Bahlavuni hanedanından Prens Krikor’un emriyle kardeşi Hamze ile kızkardeşi Seta için dinlenme yeri olarak yaptırılmış ve Aziz Krikor Lusavoriç’in adına sunulmuştur. Kilise 994 yılında yapılmış, daha çok XVII.yüzyılın çok apsitli kilise tipleri örnek alınmıştır. Kilisedeki kitabelerde 1047 yılında Selçuklularla yapılan bir savaşta ölen Ermeni kahramanlardan Vahram Bahlavuni’nin ismi sık sık geçmektedir.

Kilise içten daire, dıştan yonca planlı altı apsitli bir yapıdır. Bu plan şekli merkezi planlı, rotundalardaki nişlerin derinleştirilmesi sonucu meydana gelmiştir. Taş yontma sanatının en güzel örneklerini ortaya koyan bu yapının masif duvarları üçgen nişlerle hafifletilmiş ve buralara açılan ince uzun altı pencere ile de ibadet mekanı aydınlatılmıştır. Yapının üst örtüsünü oldukça yüksek kasnaklı konik bir çatı meydana getirmektedir. Bu çatıya da 12 pencere açılmıştır.