Родился в Бишкеке в семье фельдшера. В 1904 г. поступил в Петербургский политехнический институт. С 1904 г. член РСДРП, большевик. 9 января 1905 г. («Кровавое воскресенье») присоединился к шествию к Зимнему дворцу. Активный участник Первой русской революции 1905–1907 гг. Неоднократно арестовывался, ссылался, дважды приговаривался к смертной казни с заменой на каторжные работы. В 1916 г. бежал на фронт, занимался революционной пропагандой среди солдат.

После Февральской революции 1917 г. начальник народной милиции Минска, член Минского комитета РСДРП(б) и комитета Западного фронта. В августе 1917 г. начальник штаба революционных войск Минского района, руководил борьбой со сторонниками Л. Г. Корнилова на Западном фронте. С сентября председатель Шуйского Совета рабочих, крестьянских и солдатских депутатов и уездного комитета РСДРП(б). В октябре 1917 г. организовал отряд шуйских и ивановских ткачей и солдат для участия в вооруженном восстании в Москве. Избран депутатом Учредительного собрания. В первой половине 1918 г. председатель Иваново-Вознесенского губернского комитета РКП(б), военный комиссар губернии и председатель губисполкома. С августа 1918 г. военный комиссар Ярославского военного округа, участвовал в подавлении Ярославского восстания, организованного Б. В. Савинковым.

В феврале–мае 1919 г. командовал 4-й армией РККА, в мае–июне – Туркестанской армией, также с марта 1919 г. – Южной группой армий Восточного фронта. За успешные операции против армий А. В. Колчака награжден орденом Красного Знамени. В марте–апреле 1919 г. руководил подавлением Чапанного восстания. В июле 1919 г. командующий Восточным фронтом. Командующий войсками Туркестанского фронта (август 1919 – сентябрь 1920). Руководил операцией против Бухарского эмирата (30 августа – 2 сентября 1920), завершившейся взятием Бухары и провозглашением Бухарской Народной Советской Республики.

В сентябре 1920 г. возглавил Южный фронт, разгромил войска П. Н. Врангеля. Подписал соглашение с представителями повстанческой армии Н. И. Махно о совместных действиях, но после разгрома Врангеля отдал приказ о разоружении и задержании махновцев. В 1921–1924 гг. командующий войсками Украины и Крыма, член Политбюро ЦК КП(б)У, заместитель председателя СНК УССР.

С 1921 г. член ЦК, с 1924 г. кандидат в члены Политбюро ЦК и Оргбюро ЦК РКП(б). Член ВЦИК, Президиума ЦИК СССР. В 1925 г. Председатель Революционного военного совета СССР и народный комиссар по военным и морским делам СССР. Умер 31 октября 1925 г. после операции на желудке. Похоронен у Кремлевской стены.