Az énekest hosszan tartó, súlyos betegség után szombat hajnalban, életének 65. évében érte a halál. Kovács József 1967-ben tűnt föl a Táncdalfesztiválon, amelyen a Jöjj vissza hozzám kezdetű dallal viharos közönségsikert aratott.

Ezután még két évben, 1968-ban és 1969-ben is megnyerte a fesztivál közönségdíját.

A Színház- és Filmművészeti Főiskola operett tanszakára 1971-ben jelentkezett. A Budapesti Operettszínházhoz 1971-be került, itt A mosoly országa című klasszikus operett Szu-Csong hercegeként debütált.

Ezután külföldi szerződést kapott, a grazi színházhoz került, ahol egészen 1990-ig szerepelt. 17 év után visszatérve Magyarországra létrehozta az Interoperett Kft.-t, amelyet haláláig igazgatott.

Munkája során számos fiatal énekes tehetséget fedezett fel.