Med Långholmen förknippas den tidigare kriminalvårdsanstalten med samma namn, placerad på den västra delen av ön. Verksamheten inleddes 1724 genom Kommerskollegiums köp av den på ön befintliga malmgården Alstavik, ett stenhus i två våningar med en sammanbyggd köksflygel. Gården hade fått sitt namn efter hovbyggaren Jochum Ahlstedt (1611–80), som byggde huset