Gillespie var under bandets första tid även trumslagare i bandet The Jesus and Mary Chain, som spelade en Velvet Underground-inspirerad rock med enkla melodier och kraftigt överstyrda instrument. Primal Screams första inspelningar var betydligt mer tillgängliga, med tydliga influenser från bl.a. The Byrds och 1960-talets brittiska våg.