La provincia ha recibido muchísimos nombres a lo largo de los siglos: Romanapolis, Arsamosata, Asthianene, Artales, Khorzaen y Sermantou, entre otros.
El primer asentamiento identificado en la región es una cueva neolítica dentro del distrito de Karlıova. Hay otros: la cueva de Kübik en Karlıova, de los periodos de la piedra pulida y de la Edad del Bronce, la cueva de Çiçektepe en Kiğı, el asentamiento de Zağ a orillas del Murat, y las cuevas de Kalkanlı y Pargasor en el distrito de Yayladere. En el Neolítico se transportaba obsidiana desde las montañas de Bingöl hasta Göbekli Tepe.
Desde el siglo XIII.º a. C. empezaron a aparecer en la parte oriental de la Anatolia oriental grupos nómadas y seminómadas de origen hurrita, y usaron Bingöl como tierra de asentamiento. En el periodo hitita, el distrito de Kiğı fue un lugar de cierta importancia.
