Joseph Rudolph Jones nasce il 15 luglio 1923 a Philadelphia, Pennsylvania. Si avvicina alla musica fin da bambino studiando pianoforte con la zia e nel tempo impara, oltre alla batteria, a cantare, a ballare il tip tap e a suonare il contrabbasso. Fa parte dell’esercito degli Stati Uniti d’America durante la seconda guerra mondiale; nel 1947 si stabilisce a New York dove diventa batterista fisso al Café Society, qui ha la possibilità di suonare con moltissimi artisti dell’ambiente jazz e bebop. Durante il 1951 entra a far parte dell’orchestra di Buddy Rich affermandosi sempre più come batterista; dal 1953 al 1958 fa parte del famoso quintetto di Miles Devis, venendo considerato da quest’ultimo il miglior batterista in assoluto. Dal 1958 avvia, parallelamente a quella da turnista, una carriera da leader passando tra diversi gruppi da lui fondati con i quali pubblica un totale di sedici album nel corso degli anni. Tra il 1967 e il 1969 è insegnante a Londra in una scuola di Hampstead e qualche anno più tardi ha l’occasione di insegnare nella scuola parigina Dante Agostini, in sostituzione di Kenny Clarke. Nel corso della sua carriera ha partecipato all’incisione di più di 1500 album, collaborando con artisti come Chet Baker, Evans Bradshaw, Clifford Brown, Kenny Burrell, Paul Chambers, John Coltrane, Bill Evans, Art Farmer, Benny Golson, Milt Jackson, Duke Jordan, Clifford Jordan, Abbey Lincoln, Herbie Mann, Art Pepper e molti altri. Jones muore il 30 agosto 1985 a causa di un attacco cardiaco.
“Non credo che esista il migliore bassista, o batterista o chitarrista. La musica non è uno sport dove si può facilmente individuare il più grande atleta per ogni disciplina. Ci sono diversi modi di suonare uno strumento e di interpretare la musica. Ognuno ha il suo preferito. (Tony Levin)