Född i Tokyo men uppvuxen i det av Japan ockuperade Manchuriet kom Abe att bli en av förgrundsgestalterna inom det japanska litterära avantgardet på 1950–60-talen. Han blev omkring 1950 känd för sina noveller, som med influenser från såväl Kafka som science fiction behandlar identitetslösheten i samhället.