Nilsson behandlade särskilt deformerade atomkärnors struktur, fissionsprocessen och förekomsten av supertunga element. Han utvecklade vad som kom att kallas Nilsson-modellen för beskrivning av atomkärnan.