Jonathan David Samuel Jones nasce il 7 ottobre 1911 a Chicago, Illinois. Una volta trasferitosi in Alabama impara suonare diversi strumenti, tra cui sassofono, pianoforte e batteria. Suona e fa il ballerino di tip tap finché alla fine degli anni ’20 si unisce come batterista alla band di Walter Page, i Blue Devils. Successivamente registra con il trombettista Lloyd Hunter's Serenaders e si unisce alla band del pianista Count Basie nel 1934. Jones si esibisce regolarmente negli anni successivi nei jazz club di New York. Papa è uno dei primi batteristi a promuovere l’uso delle spazzole e a spostare dalla cassa all’hi-hat la tenuta del tempo. Nel 1979 viene inserito nella Alabama Jazz Hall of Fame per il suo contributo all'eredità musicale di Birmingham, in Alabama. Papa Jo Jones muore il 3 settembre 1985 per polmonite.