Erzurum, Anadolu’nun en eski yerleşim görmüş yerlerinden biridir ve nedenleri pratiktir: elverişli bir konum, işlenebilir doğal koşullar ve büyük uygarlık merkezlerine yakınlık. Bölgede bulunan taş aletler geçmişini Paleolitik Çağ’a götürür. Karaz, Pulur, Güzelova ve Sos buluntuları, Erken Tunç Çağı’nda Erzurum’un geniş bir alana yayılan Karaz kültürünün merkezi olduğunu gösterir.
Hitit devletinin sınırında oturmak bölgeyi açıkta bıraktı ve çok sayıda savaş ile istila gördü. MÖ 3000’den sonra Hurriler, Hayasa, Urartular, Asurlular, Kimmerler, İskitler, Medler ve Persler sırayla burayı elinde tuttu; Makedonyalı İskender MÖ 4. yüzyılda aldı. Onun ölümünden sonra Selevkoslar geldi, sonra Roma — ve Roma döneminde bölge Romalılar ile Partlar arasında kanlı çarpışmaların zemini oldu.
