Родился в Херсонской губернии в семье владельца молочной фермы. Настоящее имя – Овсей-Герш Аронович Радомысльский. Получил домашнее образование. В 1890-е гг. руководил рабочими кружками, участвовал в подготовке стачек рабочих на юге России. Неоднократно скрывался от преследований полиции за границей. Непродолжительное время учился в Бернском университете. С 1901 г. член РСДРП, с 1903 г. большевик. Один из партийных псевдонимов – Зиновьев. Во время революции 1905–1907 гг. вернулся в Россию, избран членом Петербургского комитета РСДРП. На V съезде РСДРП в Лондоне (1907) избран в ЦК партии. В октябре 1908 г. вошел в редакцию большевистской газеты «Пролетарий» (Женева, Швейцария) вместе с В. И. Лениным и Л. Б. Каменевым. Один из организаторов Пражской конференции РСДРП (1912), избран членом ЦК. Вместе с Лениным представлял большевиков на Международных социалистических конференциях в Циммервальде (1915) и Кинтале (1916).

После Февральской революции вместе с В. И. Лениным и группой большевиков вернулся в Петроград. Вошел в редакцию «Правды». Был одним из лучших большевистских агитаторов, выступал с речами и лекциями. После июльского политического кризиса 1917 г. скрывался с Лениным от ареста в Разливе под Петроградом (июль–август 1917). 10 октября 1917 г. на закрытом заседании большевистского ЦК совместно с Л. Б. Каменевым выступил против резолюции о вооруженном восстании. После Октябрьского переворота поддерживал идею единого социалистического правительства с меньшевиками и эсерами. Заявил о своем выходе из ЦК в ноябре 1917 г. в связи с несогласием с политикой Ленина. Позже признал это ошибкой.

С декабря 1917 по март 1918 г. председатель Петроградского Совета рабочих и солдатских депутатов. В январе 1918 г. возглавил Комитет революционной обороны Петрограда. После переезда правительства в Москву в марте 1918 г. возглавил Совет комиссаров Петроградской трудовой коммуны, с мая 1918 по февраль 1919 г. – Совет комиссаров Союза коммун Северной области. Участвовал в организации красного террора в Петрограде. С января 1919 г. председатель Комитета рабочей обороны Северной области, с мая 1919 г. – Комитета Обороны Петрограда и Петроградской губернии. Член Реввоенсовета 7-й армии. Руководил обороной Петрограда от войск Н. Н. Юденича.

В 1919–1926 гг. председатель Петроградского (с 1924 – Ленинградского) совета, председатель Исполнительного комитета Коммунистического Интернационала. В 1921–1926 гг. член Политбюро ЦК РКП(б) – ВКП(б). После смерти В. И. Ленина один из основных претендентов на власть в партии и стране, активный участник внутрипартийной борьбы 1920-х гг.

В 1934 г. арестован и приговорен к десяти годам заключения по делу «Московского центра». 24 августа 1936 г. приговорен к расстрелу по делу «Антисоветского объединенного троцкистско-зиновьевского центра». 26 августа расстрелян. Реабилитирован в 1988 г.