Eğitimci bir ailenin çocuğu olup, 1937 yılında kendi köyü olan Maçka Örnekalan köyünde doğdu.

 Dedesi eğitimci Mehmet Şakir Özdemir, babası edebiyat öğretmeni ve şair Ali Reşat Özdemir' dir.

İlkokulu Örnekalan köyünde, ortaokulu Maçka ilçesinde tamamladıktan sonra, yatılı olarak okuduğu Gümüşhane İlköğretmen okulundan 1957-1958 öğretim yılında mezun oldu ve aynı zamanda Trabzon Lisesini bitirdi.

Altı yıl sınıf öğretmenliği ve okul müdürlüğü yaptıkdan sonra 1966 yılında İstanbul Atatürk Eğitim Enstitüsü Pedogoji Eğitim bölümünden mezun oldu.

Tunceli,Trabzon ilköğretim müfettişi ve teftiş kurulu başkanlıklarında bulundu.

Kars İl Milli Eğitim Müdür Yardımcılığı görevini sürdürürken 1974 yılında Hakkari İl Milli Eğitim Müdürlüğüne atandı.

Hakkari,Trabzon,Elazığ,Zonguldak ve Adıyaman İl Milli Eğitim Müdürlüklerini yürüttü.Adıyaman İl Milli Eğitim Müdürü iken, 09,10,2002 tarihinde 42 yıl 5 ay hizmet üzerinden yaş haddinden emekli oldu.

42 yıl 5 ay hizmetinin 22 yılı idarecilikte geçen Yılmaz Özdemir' in "Selam Sana Öğretmenim" adında eğitimle ilgili eseri vardır.Ayrıca 11.Milli Eğitim Şurasından itibaren yayınlanmış sunumları bulunmaktadır.