Из обедневших дворян. Родился в Грузии. Окончил фельдшерскую школу (1905). С 1903 г. член РСДРП, большевик. Партийный псевдоним – Серго. В 1905–1907 гг. участвовал в революционном движении в Закавказье, неоднократно арестовывался, содержался в тюрьмах Баку и Сухума, был сослан в Сибирь, бежал. Участвовал в Иранской революции 1905–1911 гг. Учился в ленинской партийной школе в Лонжюмо (Франция), затем вернулся в Россию. В 1912 г. избран в ЦК и Русское бюро ЦК РСДРП. Во время Февральской революции находился в ссылке в Якутске.

В июне–августе 1917 г. член Петербургского комитета РСДРП(б) и Исполкома Петроградского Совета рабочих и солдатских депутатов, в сентябре–октябре вел революционную работу в Закавказье. Затем вернулся в Петроград, принял активное участие в Октябрьском перевороте. Участвовал в боях против войск А. Ф. Керенского – П. Н. Краснова. В 1918 г. чрезвычайный комиссар Совета народных комиссаров РСФСР на Украине. Являлся полномочным ревизором Наркомпрода на юге страны. В апреле 1918 г. назначен временным чрезвычайным комиссаром Южного района. Один из организаторов Донской, Кубано-Черноморской и Северо-Кавказской советских республик.

Председатель Совета обороны Северного Кавказа (декабрь 1918 – июнь 1919). В 1919 г. член Реввоенсовета (РВС) 16-й армии Западного фронта Рабоче-крестьянской Красной армии (РККА), а затем РВС 14-й армии Южного фронта, участвовал в разгроме войск А. И. Деникина.

С января 1920 г. член РВС Кавказского фронта, в феврале Председатель Бюро по восстановлению Советской власти на Северном Кавказе. В 1921–1922 гг. возглавлял Кавказское бюро ЦК РКП(б). Участвовал в создании Закавказской Социалистической Федеративной Советской Республики (ЗСФСР). В 1922–1926 гг. 1-й секретарь Закавказского крайкома партии, затем 1-й секретарь Северокавказского крайкома ВКП(б).

После Гражданской войны занимал высокие государственные должности. С 1921 г. член ЦК РКП(б), с июля 1926 г. кандидат в члены Политбюро, с декабря 1930 г. член Политбюро ЦК ВКП(б). В ноябре 1930 г. назначен председателем Высшего совета народного хозяйства (ВСНХ), а затем народным комиссаром тяжелой промышленности. Умер 18 февраля 1937 г., официальная причина – инфаркт (выдвигались версии самоубийства или убийства). Похоронен на Красной площади в Москве.