Det bildas som utfällning ur varma lösningar i gångformiga sprickor och deras sidoberg. I Sverige har det påträffats på flera ställen i fjällkedjan. I de fall ankerit förekommer rikligt och är förhållandevis fri från föroreningar av fosfor- och svavelhaltiga mineral bildar det järnmalm.