Bergh utgav delar av den latinska originaltexten till heliga Birgittas uppenbarelser. Hans forskning, präglad av skarpsinne och formell elegans, ägnades textkritiska och paleografiska problem samt latindiktningen under svensk renässans och barock (framför allt Stiernhielm).