Småspigg är ljusgrå med mörkare, oregelbundna tvärband och ljus buk. Under leken mörknar hanen och blir svart på undersidan. På ryggen finns 7–12 taggar. Fisken blir högst 7 cm lång och mer långsträckt än storspigg.