Dvärgsparven blir 13 cm lång och är därmed den minsta europeiska fältsparven. Den är lik en ung sävsparv, gråbrun med mörka streck och med rödbruna kinder och rödbrun hjässa, men har tunnare näbb med rak näbbrygg.