Gulda produce poche, straordinarie registrazioni al piano. La sua eccentricità gli fa incidere con la moglie, nudo, un concerto per flauto dolce nella sala più venerata di Vienna. Il suo Clavicembalo ben temperato di Bach e le sonate di Beethoven sono incredibili, ma il disprezzo per i critici, che gli danno il titolo di pianista terrorista, lo porta a rifiutare l'Anello di Beethoven, premio ambitissimo. Ama improvvisare e nel 1999 finge la sua morte per promuovere una "festa di resurrezione". Affianca persino nei jazz club un DJ in sessioni di techno, prima di morire, davvero, nel 2000.