Malmström studerade i sin forskning metalljoners bindningsförhållanden och funktion i proteiner, under senare år särskilt kopplingen mellan elektron- och protontransport i enzymet cytokromoxidas. Han var 1977–88 ordförande i Vetenskapsakademiens Nobelkommitté för kemi. Genom sin forskning gav Malmström väsentliga bidrag till de senaste decenniernas starka internationella utveckling inom bio-oorganisk kemi.