Jenny Wilson inledde sin karriär som sångerska och gitarrist i gruppen First Floor Power (bildad 1997), som gav ut egensinnig pop på albumen There Is Hope (2001) och Nerves (2003). Wilson valde därefter att satsa på en solokarriär, men medverkade i begränsad utsträckning även på Don’t Back Down