İlçenin ilkçağ tarihi ile ilgili yeterli bilgi bulunmamaktadır. Bununla birlikte yörede bulunan kalıntılardan, Asurlular, İskitler, Babiller, Persler, Makedonyalılar, Abbasiler, Romalılar, Bizanslılar, Araplar, Selçuklular, Artuklularrın egemen oldukları anlaşılmaktadır.
Eski adı masarti olan kent, Selçuklu egemenliğinden sonra Artukluların eline geçmiş, XV.yüzyılda Karakoyunlular ile Akkoyunlular arasında sık sık el değiştirmiş, XVI.yüzyılda Safeviler buraya hakim olmuştur. Yavuz Sultan Selim'in Mısır seferi sırasında, 1517'de Osmanlı topraklarına katılmıştır.
Günümüze gelebilen tarihi eserler arasında; Fatih Kalesi, Beşikkaya Harabeleri, Göllü Harabeleri ve merkezde bulunan Kilise Harabeleri bulunmaktadır.