Yaşlılığa bağlı sağlık sorunları nedeniyle akşam saatlerinde evinde fenalaşan Yılmaz, yakınları tarafından çağrılan ambulansla Kurşunlu Devlet Hastanesi’ne kaldırıldı. Hastanede yapılan tüm müdahalelere rağmen Yılmaz, saat 22.45 sıralarında yaşamını yitirdi.
Üç çocuk babası olan Muharrem Yılmaz’ın cenazesi, 09 Mayıs 2024 Cuma günü Kurşunlu Hacı Recep Camisinde Cuma namazına müteakip kılınacak olan cenaze namazının ardından Kurşunlu Mezarlığı’nda defnedilecek.