Muş’un ilk ne zaman kurulduğu ve adının nereden geldiği kesin olarak bilinmez, bu konuda pek çok hikâye vardır. Bir anlatıma göre ad, Asurlulardan kaçıp Muş yöresine gelen İbrani boylarından biri tarafından verilmiştir; 1914 tarihli Bitlis vilayet salnamesi, adın İbranice sulak, bereketli ve otlak için elverişli anlamına gelen muşa sözcüğünden geldiğini ileri sürmüştür. Muş ovasının geçmişten bugüne yeşil ve bol sulu olması, bu anlatının büsbütün temelsiz olmadığını düşündürür.

İkinci bir anlatım, bir sözcüğe değil bir halka işaret eder. Bu yoruma göre ad, MÖ 12. yüzyıldaki Ege göçlerinden sonra Asur kaynaklarında ilk kez görünen ve yukarı Dicle vadisine yerleştikleri bildirilen Muşkilerden gelir. Muşkiler, MÖ ikinci binyılın ikinci yarısında İç Anadolu’daki Hatti egemenliğine son verdi ve doğuya doğru yayıldı; bunların bir kolunun Muş yöresine gelerek kentin temellerini attığı ve sonra Asur topraklarına geçtiği söylenir.