1971 upphörde den militära musikorganisationen i Sverige och de olika förbandsmusikkårerna lades ner. Musikkåren vid Kungliga Norra Smålands Regemente (I 12) hade sitt sista officiella framträdande 1971. Redan den 12 juni samma år möttes i Eksjö fyra herrar för att diskutera hur militärmusiken skulle ersättas. Det var musikförvaltaren Sture Lindén, musikdirektören vid regementet Sven Samuelsson, översten Nils Haegerström och överstelöjtnanten Anton Lundgren.

 Man kom då överens om att bilda Hemvärnets Musikkår i Eksjö.
Efter några hektiska sommarmånader med rekrytering av musiker, anskaffning av uniformer och repetitioner kunde den nystartade musikkåren ge sin första konsert den 4 september 1971. Under de första åren disponerade kåren övningslokaler i en tidigare fabriksbyggnad, men fick sedan tillgång till utrymmen på regementet.