Mehmet Ali Yılmaz, 21 Ekim 1948 yılında Trabzon’un Of ilçesine bağlı Güldüren Köyü’nde dünyaya gelmiştir. Yılmaz’ın babasının adı Mehmet, annesinin adı ise Fatma’dır.
İlkokulu doğduğu köyde okuyan Mehmet Ali Yılmaz, ortaokulu ise İstanbul’da Kadıköy Kemal Atatürk Ortaokulu’nda okudu. Mehmet Ali Yılmaz, Haydarpaşa Lisesi’nde okuduğu dönemde henüz 16 yaşındayken ailesi tarafından evlendirildi, öğrencilik yaşamına bir süre ara vererek memleketine döndü. 1 yıl aranın ardından İstanbul’a dönerek okulunu tamamladı. 1971 yılında Yıldız Teknik Üniversitesi İnşaat Bölümü’nden mezun oldu.
Mehmet Ali Yılmaz, askerlik görevini 1975 yılında İzmir Narlıdere İstihkam Er Eğitim Alayı’nda kısa dönem olarak yaptı.
İnşaat alanında iş hayatına atılan Mehmet Ali Yılmaz, 1973 yılında TEK-ART adlı şirketi kurdu. 1978 yılından 1988 yılına kadar 10 yıl boyunca Türkiye’de vergi rekortmeni oldu.
1979 yılında Türkiye İthalat İhracat Bankası -Titibank / İmpexbank- sahibi olan Mehmet Ali Yılmaz, 1988 yılında bankayı elden çıkarttı. Daha sonra 1983 yılında basın sektörüne girdi; Güneş Gazetesi’ni satın aldı. 6 yıl süreyle gazetenin sahibi konumundaydı.
Turizm sektörüne de atılan Mehmet Ali Yılmaz, 1996 yılında Antalya – Kemer’de Zigana Tatil Köyü’nü açtı.
Siyasette de boy gösteren Mehmet Ali Yılmaz, 1991-1995 yıllarında 19. Dönem DYP Trabzon Milletvekili oldu. 49. ve 50 Hükümetlerde ise Spordan Sorumlu Devlet Bakanı olarak görev aldı.
Trabzonspor Onursal Başkanı olan Mehmet Ali Yılmaz, 1982 yılından 2001 yılına kadar farklı dönemlerde Trabzonspor Başkanlığı görevini yürüttü.
Mehmet Ali Yılmaz; TV EM, Zigana TV, Zigana FM ve Karadeniz Gazetesi’nin sahibidir.
