Die Provinz hat im Laufe der Jahrhunderte eine ganze Reihe von Namen getragen — darunter Romanapolis, Arsamosata, Asthianene, Artales, Khorzaen und Sermantou.
Die erste in der Region festgestellte Siedlung ist eine neolithische Höhle im Bezirk Karlıova. Es gibt weitere: die Kübik-Höhle bei Karlıova aus der Jungsteinzeit und der Bronzezeit, die Çiçektepe-Höhle bei Kiğı, die Siedlung Zağ am Ufer des Murat sowie die Höhlen Kalkanlı und Pargasor im Bezirk Yayladere. Im Neolithikum wurde Obsidian aus den Bingöl-Bergen bis nach Göbekli Tepe transportiert.
Ab dem 13. Jahrhundert v. Chr. begannen nomadische und halbnomadische Gruppen hurritischer Herkunft im östlichen Teil Ostanatoliens aufzutreten, und sie nutzten Bingöl als Siedlungsgebiet. In der hethitischen Zeit war der Bezirk Kiğı ein Ort von einiger Bedeutung.
