1981 yılında Sarıveliler’de doğdu. İlk ve orta öğrenimini Sarıveliler’de, lise eğitimini ise Ermenek Lisesinde tamamladı. 2002 yılında askerlik görevini yerine getirdi. 2004 yılında evlendi. 2005 yılında İstanbul Beyoğlu’nda tekstil işine başlayarak 2007 yılında tekstil atölyesini kurdu. 2013 yılında ise kendi marka ve imalatını yapmaya başladı. Yılmaz’ın İstanbul Beyoğlu’nda tekstil imalathanesi, Sarıveliler Göktepe Kasabasında ise tekstil atölyesi bulunuyor. İstanbul Sarıveliler Derneği kurucuları arasında yer alan Yılmaz. Kasım 2021 tarihinden itibaren İstanbul Sarıveliler Derneği başkanlığını yürütüyor. 2021yılında İstanbul’da Beyoğlu AK Parti Halkla İlişkiler Komisyonunda görev aldı. 2023yılında İstanbul AK Parti İl Yaşlılar Koordinasyon Merkezi yönetim kurulu üyesi ve başkan yardımcısı oldu.
31 Mart 2024 Mahalli İdareler Seçiminde AK Parti’nin adayı olarak gösterilen Yılmaz, seçimi önde tamamlayarak Sarıveliler’in yeni belediye başkanı oldu.
Yılmaz, evli ve 1 erkek, 2 kız çocuğu babasıdır.