Kars, Arpaçay ilçesinde Arpaçay Nehri’nin kıyısında, Kanlıca Köyü’nün olduğu yerde, Ermeni prensi Krikor Bahlavuni’nin oğlu Vahram tarafından XI.yüzyılın başlarında yaptırılmıştır. Bu kale aynı zamanda Ermenilerin bir bakıma dinlenme yeri niteliğinde idi.
Selçuklu hükümdarı Alpaslan Ani’yi ele geçirmeden önce oğlu Melikşah bu kaleyi kuşatmıştı. Ancak etrafının su ve hendeklerle çevrili oluşundan ötürü bir sonuç alamamıştı. Ardından kalenin bulunduğu kayalıklar tarafından saldırmış, oradan da bir sonuç elde edememiştir. O günlerde meydana gelen bir deprem kale surlarının bir bölümünü yıkmış ve Melikşah da buradan şehre girmiştir.
Kesme taş ve molozdan yapılan etrafı su dolu hendeklerle çevrili kaleden günümüze çok az duvar kalıntısı gelebilmiştir.
Kenthaber Kültür Kurulu