Zempléni Kornél 1922. szeptember 4-én született Debrecenben. Édesanyja hegedűtanár volt, de a tágabb családban is akadtak muzsikusok. A debreceni zeneiskolában az egykori Senn Irén-tanítvány Galánffy Lajosnál kezdte meg zongoratanulmányait, később Szabó Emilhez került, aki zeneelméletre, zeneszerzésre oktatta. A híres debreceni tanár növendéke volt például Vásáry Tamás is.

Zemplénit 1940-ben vették fel a Zeneakadémiára, ahol Böszörményi-Nagy Béla tanítványa lett. Zeneszerzés stúdiumokat Siklós Albertnél, majd annak korai halála után Kókai Rezsőnél végzett. Az 1943-as Liszt-versenyen második helyezést ért el. 1943-őszén Dohnányi Ernő felvette mesteriskolájába, de ez mindössze a német megszállás napjáig, 1944. március 19-ig tartott.

1947 első napjától folytatott tanári tevékenységet, először a Nemzeti Zenedében, majd a Bartók szakiskolában. A háború utáni időszak két fontos zenei versenyén, az 1948-as Bartók-versenyen, valamint az 1949-es VIT versenyen kiemelkedő sikerrel szerepelt - olvasható a Zeneakadémia honlapján.

1955-ben egy magyar zenei küldöttség tagjaként Kínában turnézott, majd a hatvanas évek elejétől több nyugat-európai országban is megfordult többek között Ferencsik Jánossal, Lehel Györggyel.

1964-ben lett a Liszt Ferenc Zeneművészeti Főiskola tanára, 1982-ben és 1983-ban a zongora tanszék vezetője volt. 1984-től 1986-ig Japánban tanított az Osaka University of Arts vendégprofesszoraként, majd hazatért Budapestre, a Zeneakadémiára.

A Zeneakadémia köztiszteletben álló professor emeritusaként 2008-ban Weiner Leó Emlékdíjjal tüntette ki Zempléni Kornélt Batta András rektor.