Konrad IV var son till kejsar Fredrik II, som 1237 lät välja honom till kung av Tyskland, medan han själv ägnade sig åt Sicilien. Efter minderårighetstiden, då regeringen i Tyskland sköttes av riksrådet, deltog Konrad på faderns sida i striderna mot påvemakten och dess tyska motkungar, bland andra Vilhelm av Holland (1227–56).