Redan som 16-åring upptogs Holmboe vid Köpenhamns musikkonservatorium. Efter examina 1929 studerade han vidare på kontinenten. Viktiga impulser mottog Holmboe bl.a. i Rumänien, där han i Bartóks efterföljd studerade folkmusiken. Senare satte han sig också ingående in i arabisk musik.