Kaas var amtman i Akershus stift 1795–1802 och 1809–10 samt president i danska kansliet 1804–09 och 1810–27. År 1814 blev han gehejmestatsminister. Ända sedan Fredrik VI:s kronprinstid var Kaas dennes förtrogne rådgivare. Till sin politiska åskådning var han utpräglat konservativ.