Autodidakten Larsson var under 1920–40-talen verksam i dans- och teaterorkestrar i bland annat Göteborg och Stockholm. Han debuterade som sologitarrist med klassiska verk i Göteborgs konserthus 1933. År 1938 introducerade Larsson den första mikrofonförsedda elgitarren i Sverige.