01 Ocak 1971 yılında Zonguldak Merkez Bahçelievler Mahallesinde doğdu. İlk, orta, lise eğitimini Zonguldak merkezde tamamladıktan sonra 1988 senesinde Gazi Üniversitesi Eczacılık Fakültesine giriş yapmaya hak kazandı. Dört sene süren eczacılık eğitiminden sonra 1992 yılında Eczacılık Fakültesinden mezun oldu.

1995 senesinde memleketi olan Düzce’de serbest eczane hayatına başladı ve 23 senedir Ümit Eczanesi adıyla bu hayatına devam etmekte.

2002 yılından beri Milliyetçi Hareket Partisi üyesi. Partinin merkez ilçe teşkilatında ilçe sekreteri olarak görev yaptı. 1 Şubat 2015 senesinde yapılan Düzce il kongresinde il başkanlığına aday olarak katıldı. Yapılan bu kongrede başkanlığı 1 oy ile kaybetti. Partide yaşanan sıkıntılı süreç içerisinde mevcut il başkanının sakıncalı tavırları nedeniyle görevden alınmasının ardından 26 Haziran 2016 senesinde il başkanlığı görevi tarafına partinin Genel Merkezi tarafından verildi. Göreve geldikten sonra yaşanan 15 Temmuz sürecinde sıkıntılı bir süreç yaşanmasına rağmen partisini layıkıyla temsil etmeye elinden geldiğince gayret etti. 3 Temmuz 2017 yılında gerçekleştirilen il kongresiyle yeniden başkanlığa seçildi. 16 Nisan 2017 yılında yapılan referandum sürecinde büyük bir efor ve çalışma göstererek kendisi ve yönetim kurulu üyeleri yoğun bir çalışma ile ilimizde evet oyunun yüksek oranda çıkmasını sağladı.

24 Haziran 2018 tarihinde yapılan Cumhurbaşkanlığı ve 27. Dönem Milletvekilliği Seçimlerinde Düzce Milletvekili olarak seçilmiştir. TBMM İçişleri Komisyonu üyesidir.

Yılmaz, evli ve 2 çocuk babasıdır.