Som kommunistpartimedlem från 1903 deltog han i bolsjevikernas maktövertagande 1917 (se bolsjevism). Under inbördeskriget fick Vorosjilov trots brist på militär erfarenhet befälet över en röd armé. Efter inbördeskrigets slut blev han som folkkommissarie för försvaret Josef Stalins förtrogne i militära frågor.