Musa Eroğlu, 1946 yılında Mersin‘in Mut ilçesi Kumaçukuru köyünde yoksul bir ana babanın çocuğu olarak doğmuştur. Musa Eroğlu’nun babasının adı da Musa Eroğlu’dur. 3’ü erkek 4’ü kız olmak üzere 7 kardeşin ikinci büyüğüdür. Ortaöğrenimini Mut’ta tamamlamıştır. Küçük yaşlarda müziğe ilgi duyarak bağlama çalmaya başlamıştır. 1964 yılında Ankara‘ya gelmiştir. Ankara Radyo’sunda imtihan açılmıştı; “Radyo Sanatçısı” olabilmek için imtihana girdi, kazanamadı. 1971 yılında tekrar girdi bu sefer kazandı.
Ortaokuldayken bir müsamerede “Karacaoğlan” rolünü oynadı, saz çaldı. O rolü, onu çok etkiledi ve böyle sürüp gitti.
66 yılında askere gitti, 68’de askerliğini byapan Musa Eroğlu, askerlik dönüşü ilk plağını 1969 da “İkimiz Toprağa Girelim Elif” ismiyle çıkarmıştır. Taşeli yöresinin türküleri : irfaniye , kullar olam , sarı yaylam, yatamadım kasavetten, aman ayşam vb. türküleri derleyerek TRTreperatuarına kazandırmıştır. Daha sonra 1970 ve 1980 li yıllarda TRT de mahalli sanatçı olarak çalıştı.
Türkiye genelinde tanınması “Mihriban” beste türküsüyle başlamıştır. Sanat yaşamı boyunca ; Bedia Akartürk, Neşet Ertaş, Orhan Gencebay, Belkıs Akkale, İbrahim Tatlıses, Aşık Mahsuni Şerif, Gülşen Kutlu, vb. birçok sanatçıyla beraber çalışmıştır. Sayısız derleme yapmıştır.
Yolun Sonu, Halil İbrahim, Telli Turnam,sözleri Karacaoğlan‘a ait birçok türkü ve değişik ozanlara ait birçok türkünün bestesini yaparak Türk Halk Müziğinin zenginleşmesine katkıda bulunmuştur.
1998 yılında Kültür Bakanlığı’nca Devlet Sanatçısı unvanı verildi.
Musa Eroğlu, Türk Halk Müziğinin genç kuşaklara sevdirilmesi ve geniş kitlelere ulaştırılması için büyük bir çaba içindedir.
Avrupa‘dan Avustralya‘ya Türki Cumhuriyetlerden ABD‘ye kadar Dünyanın pek çok ülkesinde resitaller verdi. Evrensellik normları içinde Sevda Türküleri yanı sıra müziğin protest boyutuna da bağlı kalarak toplumsallık çizgisini geliştirdi. Musa Eroğlu, Toroslardan kopup gelmiş bir ezgi ustasıdır.