Joseph Modeliste nasce il 28 dicembre 1948 a New Orleans, Louisiana. Inizia a suonare la batteria in tenera età e in seguito entra nei The Hawketts, una band guidata da Art Neville all’epoca, che si è evoluta poi in The Neville Sounds e alla fine degli anni '60 prende il nome di The Meters; resta attiva fino al 1977 per poi riformarsi nel 1989 anche se Ziggy rientra solo nel 2000. Con loro ha pubblicato più di venti album che li ha spinti verso la Rock and Roll Hall of Fame. Con la sua militanza nei The Meters si consolida nella scena come batterista innovativo e competente il che gli permette di suonare con The Wild Tchoupitoulas, Allen Toussaint, Lee Dorsey, Robert Palmer, Keith, Richards, Bill Laswell, Aaron Neville, Professor Longhair, John Fogerty, Mark Ronson, Yael Naim, Kids on Bridges, Robert Stewart; inoltre Ziggy viene campionato come batterista, per i suoi famosi patterns, da artisti come Run DMC, Public Enemy, Beastie Boys, Ice Cube, LL Cool J, Queen Latifah e Salt-N-Pepa. Ha all’attivo quattro album come solista. Nel 2016 viene inserito al 18º posto nella classifica dei 100 migliori batteristi di tutti i tempi dalla rivista Rolling Stone.