Babel växte upp i en judisk familj i Odessa och kom 1915 till Petrograd. Sitt genombrott fick han med Ryttararmén (1926), en skildring av de rysk-polska striderna 1920, där han själv deltog i marskalk Budjonnyjs armé. I en serie berättelser skildrade han Odessas förbrytarkvarter, i en annan sin barndom.