På eget initiativ blev han stadsingenjör i Göteborg 1717, den förste med denna befattning utanför Stockholm. Som Stockholms stads arkitekt 1727–73 styrde Carlberg den kommunala byggnadsverksamheten mot en fastare organisation och bidrog till 1736 års byggnadsordning.