Родился в семье зажиточного колониста. Окончил реальное училище в Николаеве (1896), поступил на физико-математический факультет Новороссийского университета (не окончил). С 1890-х гг. участник социал-демократического движения. Один из основателей «Южно-русского рабочего союза». Неоднократно арестовывался, ссылался в Сибирь. Бежал в Лондон, где познакомился с лидерами российской социал-демократии,  в  том  числе  с  В.  И.  Лениным.  Участвовал во II съезде РСДРП (1903), примкнул к меньшевикам, но вскоре порвал с ними, пытаясь занять промежуточную позицию. Один из ведущих авторов газеты «Искра». В 1905 г. нелегально вернулся в Россию. В конце 1905 г. один из руководителей Петербургского Совета рабочих депутатов. В декабре арестован, приговорен к пожизненному поселению в Сибирь с лишением всех прав. На пути в ссылку совершил побег. В 1906–1917 гг. в эмиграции, занимался журналистской и партийной работой. В 1912 г. один из создателей Августовского блока, пытавшегося объединить враждующие фракции РСДРП. В годы Первой мировой войны на интернационалистских позициях.

После Февральской революции вернулся в Россию, прибыл в Петроград в мае 1917 г. Выступал против Временного правительства. После июльского политического кризиса арестован. На VI съезде РСДРП(б) (июль–август 1917) вместе с «межрайонцами» (независимой группой социал-демократов) принят в партию большевиков, избран в ЦК. В сентябре освобожден, избран председателем Петроградского Совета рабочих и солдатских депутатов.

Один из главных организаторов Октябрьского переворота. Руководил обороной   Петрограда   от   войск   А.   Ф.   Керенского и П. Н. Краснова.

С ноября 1917 по март 1918 г. народный комиссар (нарком) по иностранным делам, возглавлял советскую делегацию на переговорах с Германией и Австро-Венгрией в Брест-Литовске. В марте 1918 г. назначен наркомом по военным делам РСФСР (до ноября 1923). С сентября 1918 г. председатель Революционного военного совета Республики (с 1923 – СССР). Сыграл ключевую роль в организации Рабоче-крестьянской Красной армии (РККА). Участвовал в разработке и проведении операций Гражданской войны, лично ездил по фронтам в специальном «поезде Предреввоенсовета». В ноябре 1919 г. организовал оборону Петрограда от войск Н. Н. Юденича, за что был награжден орденом Красного знамени.

Один из основателей Коминтерна (1919), автор его манифеста. В марте–декабре 1920 г. нарком путей сообщения. С ноября 1923 г. нарком по военным и морским делам СССР. После смерти В. И. Ленина один из главных претендентов на власть в партии и стране. Проиграв во внутрипартийной борьбе И. В. Сталину, смещен с постов председателя Реввоенсовета СССР и наркома по военным и морским делам СССР (январь 1925). В 1926 г. выведен из состава Политбюро ЦК РКП(б). В 1927 г. исключен из партии и в 1928 г. сослан в Алма-Ату. В 1929 г. выслан в Турцию. В 1932 г. лишен советского гражданства. В 1940 г. убит в Койокане (Мексика) агентом НКВД.