Golfista professionista, imparò a giocare sulle spiagge vicino a casa, usando soprattutto una mazza ferro-3 che gli era stata data da uno dei suoi fratelli maggiori.

Suo zio Ramón Sota era stato a sua volta un giocatore professionista, quattro volte campione di Spagna e 6º posto ai Masters del 1965.

Il fratello maggiore Manuel era stato tra i primi 100 giocatori dell'European Tour consecutivamente dal 1972 al 1983 e più tardi diventò il suo allenatore. Anche gli altri due fratelli Vicente e Baldomero e il nipote Raúl sono stati golfisti professionisti

Ballesteros passò al professionismo nel marzo 1974 all'età di soli 16 anni. Nel 1976 esplose sulla scena internazionale piazzandosi al secondo posto nel British Open giocato al Royal Birkdale Golf Club. Dopo il terzo giro Ballesteros conduceva con due colpi di vantaggio, ma un ultimo giro chiuso a 74 lo fece finire secondo pari merito con Jack Nicklaus, a sei colpi di distacco dal vincitore Johnny Miller.

In quell'anno vinse l'European Tour Order of Merit, titolo che vincerà nel corso della carriera per sei volte complessivamente. L'averlo ottenuto anche per i due anni successivi rappresentò un record per l'epoca, record che venne poi battuto da Colin Montgomerie.

Complessivamente guidò il ranking del golf mondiale per 61 settimane tra il 1986 e il 1989.

Ballesteros conquistò cinque vittorie nei quattro tornei più importanti del circuito: nel 1980 e nel 1983 il Masters e nel 1979, 1984 e 1988 il British Open[5]. La sua vittoria del 1980 al Masters fu la prima di un giocatore europeo, e all'epoca fu il giocatore più giovane a conquistarla, all'età di 23 anni (il record è stato battuto da Tiger Woods nel 1997).

Anche nel caso del British Open fu il più giovane vincitore del XX secolo, risultando inoltre il primo giocatore proveneiente dall'Europa continentale a vincerlo dal 1907 quando aveva trionfato il francese Arnaud Massy[8].

Fu un campione anche con la formula del match play; vinse per cinque volte il World Match Play Championship e fu uno dei punti di forza della squadra europea in Ryder Cup per gran parte degli anni '80 e '90, ottenendo 20 vittorie su 37 incontri contro glistatunitensi; la coppia composta da lui e dall'altro spagnolo José María Olazábal è una di quelle di maggior successo nella storia della competizione con 11 vittorie e due pareggi ottenuti su 15 incontri[9]. Con Ballesteros in squadra l'Europa conquistò la Ryder Cup nel 1985, mantenendola nel 1987 e nel 1989, e nuovamente nel 1995 e 1997