Konstruktionen av Colossus inleddes 1943 och den togs i bruk tio månader senare, under våren 1944. Datorn konstruerades av den brittiske teleingenjören Tommy Flowers efter en skiss av den brittiske matematikern Max Newman (1897–1944), båda verksamma vid den hemliga forskningsanläggningen Blechley Park (se Ultra) under andra världskriget.