Erzurum es uno de los lugares habitados más antiguos de Anatolia, y las razones son prácticas: una posición favorable, condiciones naturales aprovechables y la proximidad a los grandes centros de civilización. Las herramientas de piedra halladas en la zona remontan su pasado al Paleolítico. Los hallazgos de Karaz, Pulur, Güzelova y Sos muestran que en la Edad del Bronce Antiguo Erzurum fue el centro de la cultura de Karaz, que se extendió por un amplio territorio.
Estar en la frontera del Estado hitita dejó la región expuesta, y vio muchísimas guerras e invasiones. Después del 3000 a. C. la dominaron sucesivamente los hurritas, los hayasa, los urarteos, los asirios, los cimerios, los escitas, los medos y los persas; Alejandro de Macedonia la tomó en el siglo IV.º a. C. A su muerte siguieron los seléucidas y luego Roma, y bajo Roma la región se convirtió en terreno de sangrientos combates entre romanos y partos.
