Levene współzałożył The Clash, ale opuścił szeregi tego zespołu przed rozpoczęciem sesji nagraniowych pierwszego albumu. Pomimo to jest on współautorem kompozycji "What's My Name" z pierwszej płyty The Clash wydanej w 1977 roku. 

Po rozpadzie formacji Sex Pistols Levene i jej wokalista Johnny Rotten założyli grupę Public Image Ltd. Zmarły muzyk grał na gitarze na trzech pierwszych płytach tego bandu: "First Issue" (1978), "Metal Box" (1979) oraz "Flowers of Romance" (1981). Był także współkompozytorem i współproducentem utworów na tych albumach. W 1983 roku Levene opuścił PIL i przeprowadził się do Los Angeles. W 1986 roku wyprodukował wersje demo utworów, które później trafiły na drugi album Red Hot Chili Peppers "The Uplift Mofo Party Plan". W późniejszych latach współpracował między innymi z industrial-rockową grupą Pigface, nagrywał solowe projekty oraz zajmował się produkcją muzyki.