Wann Muş zuerst gegründet wurde und woher sein Name stammt, ist nicht mit Sicherheit bekannt, und es gibt eine ganze Reihe von Geschichten darüber. Einer Darstellung zufolge wurde der Name von einem der hebräischen Stämme gegeben, die vor den Assyrern flohen und in den Bezirk Muş kamen; das Provinzjahrbuch von Bitlis aus dem Jahr 1914 vertrat die Ansicht, er stamme vom hebräischen Wort muşa ab, das wasserreich, fruchtbar und weidegeeignet bedeute. Dass die Ebene von Muş von der Vergangenheit bis heute grün und wasserreich gewesen ist, legt nahe, dass die Geschichte nicht völlig ohne Grundlage ist.

Eine zweite Darstellung verweist auf ein Volk statt auf ein Wort. Dieser Lesart zufolge stammt der Name von den Muschki, die erstmals in assyrischen Quellen nach den ägäischen Wanderungen des 12. Jahrhunderts v. Chr. auftauchen und sich der Überlieferung nach im oberen Tigris-Tal ansiedelten. Die Muschki beendeten in der zweiten Hälfte des zweiten Jahrtausends v. Chr. die Herrschaft der Hatti in Zentralanatolien und dehnten sich nach Osten aus, und ein Zweig von ihnen soll in den Bezirk Muş gekommen sein und die Grundlagen der Stadt gelegt haben, bevor er weiter in assyrisches Gebiet zog.