Oltre ad essere cantante suona il basso, la chitarra elettrica e quella acustica. È noto per aver fatto parte dei gruppi Kyuss e Queens of the Stone Age, oltre ad avere fondato i Mondo Generator.

Entra a far parte del gruppo stoner rock Kyuss nel 1991, in sostituzione di Chris Cockrell, coi quali pubblica due album, Wretch e Blues for the Red Sun. Lascerà il gruppo nel 1994, prima della pubblicazione dell'album Welcome to Sky Valley. successivamente collabora per breve tempo con il gruppo punk Dwarves, sotto lo pseudonimo Rex Everything. Con loro inciderà il disco The Dwarves are Young and Good Looking del 1997. Nello stesso anno forma i Mondo Generator, gruppo al quale ha cambiato successivamente il nome in Nick Oliveri and the Mondo Generator. Ha inoltre pubblicato nel 2004 un album solista, Demolition Day. Tra le sue collaborazioni in studio e dal vivo si possono ricordare quelle con i Winnebago Deal, Mark Lanegan Band, ed i Masters of Reality di Chris Goss. Ha inoltre partecipato alle Desert Sessions.

Nel 1998 entra a far parte dei Queens of the Stone Age, con i quali inciderà gli album Rated R e Songs for the Deaf. Dopo quasi sei anni di permanenza nei QOTSA, viene allontanato dal gruppo da Josh Homme, ufficialmente per i suoi problemi caratteriali.