1936 yılında Eskişehir'de dünyaya geldi. 1962 yılında Eskişehir İktisadi ve Ticari İlimler Akademisinin ilk mezunları arasında yer aldı. Öğrencilik yıllarında çeşitli gazetelerde muhabirlik, yazarlık, karikatüristlik ve yazı işleri müdürlüğü yaptı. Öğrenci arkadaşları ile birlikte kan bankasına kan satarak elde edilen sermaye ile Oda tiyatrosunun ve onu takiben Belediye tiyatrosunun kuruluşunu sağladı. Mezuniyetini takiben aynı yıl Akademinin Maliye Kürsüsüne asistan oldu.

1966 yılında Doktor, 1968 yılında Doçent oldu. Aynı yıl akademi Başkan Yardımcılığına getirilen BÜYÜKERŞEN, 1973 yılında Profesörlüğe yükseltildi. 1976 yılında Eskişehir İktisadi ve İdari İlimler Akademisi Başkanlığına seçildi. Başkanlık süresinin bitimi olan 1980 yılında yapılan seçimlerle yeniden Akademi başkanlığına getirildi.

Radyo ve Televizyonun eğitim ve kültür hayatında kullanılması için yaptığı çalışmalarla Ankara'daki TRT yayınlarının İstanbul'dan sonra ikinci il olarak Eskişehir'den izlenmesi için önce Akademi'de TV verici istasyonu ile siyah-beyaz eğitim stüdyolarını, daha sonra da Türkiye'de ilk renkli TV sistemini Eskişehir'de kurdu.

1971'de İletişim Teknolojisinin eğitimde kullanılmasına ve Uzaktan Öğretim ile buna ilişkin, yöntemlerin Açıköğretim Modeli şeklinde, Türk Eğitim sisteminde yer almasına ilişkin olarak başlattığı çalışmalar ve 1973 yılında Eğitimin yaygınlaştırılması amacıyla hazırladığı "Türkiye için Açıköğretim Modeli" projesi YÖK Kanunu ve 41 sayılı Kanun Hükmündeki Kararname ile Açıköğretim Fakültesi olarak ülke çapında ve Bati Avrupa'nın 6 ülkesi ile Kuzey Kıbrıs'taki Türkler için uygulamaya konuldu.

1982 yılında Yükseköğretim Kanunu ile üniversitelerin yeniden düzenlenmesini takiben, Cumhurbaşkanı tarafından Anadolu üniversitesi rektörlüğüne getirilen Prof. Dr. Yılmaz BÜYÜKERŞEN, döneminin bitiminde 1987 yılında tekrar ikinci kez Cumhurbaşkanı tarafından Rektörlüğe atandı. Bu görevinin yanı sıra, "Radyo ve Televizyon Yüksek Kurulu" üyeliği ve kurulun 2 dönem Başkanlığını yaptı daha sonra, 1993 yılında Yüksek Kurul yerine RTÜK Kanununun çıkarılması ile görevinden ayrıldı.

Akademi Başkanlığı sırasında, öğrencilerin kültürel donanımları için kurduğu atölye, stüdyo ve klüplerde, heykel, grafik, resim, müzik, folklor, film ve fotoğraf çalışmalarına bizzat katılan ve yöneten Yılmaz BÜYÜKERŞEN, Türkiye'nin ilk "Sinema ve Televizyon Okulu'nun kuruluşunu da Eskişehir'de gerçekleştirdi.

Akademi Başkanlığı sırasında başlattığı kültür ve sanat çalışmalarını Rektör olunca "Uygulamalı Güzel Sanatlar Yüksek Okulu" (daha sonra fakülte), "İletişim Bilimleri Fakültesi", "Devlet Konservatuvarı" ve "Edebiyat Fakültesi" adı altında kurumlaştırdı.

BÜYÜKERŞEN'in tasarısına ve tercihine göre şekillenen Anadolu Üniversitesi Kampusü'ndeki tesislerde birisi büyük operalara elverişli olmak üzere, değişik büyüklükte 7 adet sahneli salon, 3 adet sergi galerisi bulunmaktadır.

Üniversite kampüsünün peyzaj mimarisine de önem veren BÜYÜKERŞEN, aynı zamanda bizzat heykel sanatı ile uğraşmaktadır. Atatürk'ün doğumunun 100. yılının kutlandığı 1981 yılında Eskişehir'in 100 köyüne hediye ettiği büstler ile Mihallıççık, Mahmudiye, Seyitgazi ilçeleri ile Gemlik'in Karacaali ve Kapaklı köylerindeki Atatürk heykelleri BÜYÜKERŞEN'in imzasını taşımaktadır.

Ayrıca, Gaziantep Vilayet Binası önündeki bronz Atatürk heykelini de yapan Prof. Dr. Yılmaz BÜYÜKERŞEN, Türkiye'de "balmumu mumya heykel" yapımında tek isim olup, Anıtkabir Müzesi'nde sergilenen Atatürk Mumya heykeli ile II.TBMM binasındaki mumya heykeller ve Makedonya Manastır Askeri İdadi Müzesi'ndeki "17 yaşında Atatürk" mumyası onundur.

1992 yılında yapılan Rektörlük seçiminde en yüksek oyu alması sonucu tekrar Cumhurbaşkanı tarafından Rektörlüğe atanan Prof. Dr. Yılmaz BÜYÜKERŞEN'in bu görevi, YÖK Kanununa ilave edilen "2 dönemden fazla rektörlük yapılamaz" hükmü nedeniyle sona erdirildi.

Akademi Başkanlığı ile Rektörlüğü sırasında çeşitli eğitim, araştırma ve yayın kurumlarının kuruluşunu sağlayan, Anadolu Üniversitesini, bünyesinden 3 yeni üniversite daha çıkacak kadar büyüten, çeşitli kitap ve makaleleri olan ve 1993 yılından sonra Anadolu Üniversitesi Uzaktan Öğretim Anabilim Dalı Başkanlığının yanı sıra İletişim Bilimleri Enstitüsü Müdürlüğü görevinde de bulunan BÜYÜKERŞEN, "Türkiye Eğitim Gönüllüleri Vakfı" Yönetim Kurulu Başkanlığı yapmış olup, bütün Türkiye'de "Çağdaş Halkevleri ve Köy Enstitüleri Modeli" diye nitelendirilen "Eğitim Parkları" ve "Semt Eğitim Birimleri"nin kuruluş çalışmalarını sürdürmüştür.

18 Nisan 1999 seçimlerinde DSP listesinden Eskişehir Büyükşehir Belediye Başkanlığına seçildi. Avrupa Yerel ve Bölgesel Yönetimler Kongresi Türk Delegasyon Başkanı olan Prof. Dr. Yılmaz BÜYÜKERŞEN, evli ve iki çocuk, bir torun sahibidir.