Родился в купеческой семье в г. Черкассы Киевской губернии. Окончил юридический факультет Киевского университета (1897). Член РСДРП с 1898 г. После II съезда партии (1903) меньшевик. В 1899 г. арестован, в 1901 г. выслан в Якутскую губернию. В 1905 г. бежал из ссылки. Участник революции 1905–1907 гг. в Красноярске, Санкт-Петербурге. В 1906 г. выслан в Черкассы. В 1908 г. арестован, сослан в Вологодскую губернию. Получил разрешение выехать за границу для лечения туберкулеза. Жил в Германии, Швейцарии. В 1910–1912 гг. в России. В августе 1912 г. участник Венской конференции, организованной Л. Д. Троцким с целью объединения российских социал-демократов. В декабре 1912 г. арестован в Москве. В 1913 г. выслан в Архангельскую губернию. Из-за обострения туберкулеза вновь выпущен за границу для лечения. В годы Первой мировой войны жил в Берлине, Париже, Стокгольме.

После Февральской революции вернулся в Петроград. На VI съезде РСДРП(б) (июль–август 1917) вместе с «межрайонцами» (независимой группой социал-демократов) принят в партию большевиков, избран в ЦК. С августа 1917 г. член Комиссии по выборам во Всероссийское Учредительное собрание. Избран гласным Петроградской городской думы (август). Участник Демократического совещания (сентябрь).

Делегат II Всероссийского съезда Советов, избран членом ВЦИК. Во время Октябрьского переворота член Военно-революционного центра по руководству вооруженным восстанием, член Петроградского Военно-революционного комитета. Член коллегии Наркомата по иностранным делам.

С ноября 1917 г. комиссар Всероссийской по делам о выборах в Учредительное собрание комиссии. В конце января 1918 г. во время поездки Ф. Э. Дзержинского в Финляндию для расследования обстоятельств покушения на В. И. Ленина исполнял обязанности председателя Всероссийской чрезвычайной комиссии по борьбе с контрреволюцией и саботажем (ВЧК). В феврале 1918 г. возглавил штаб Комитета революционной обороны Петрограда. На VII съезде РКП(б) (март 1918) избран в кандидаты в члены ЦК.

После переезда СНК и ВЧК в Москву возглавил 10 марта 1918 г. Петроградскую ЧК. В апреле–мае и в июле–августе 1918 г. одновременно исполнял обязанности комиссара внутренних дел Совета комиссаров Союза коммун Северной области (СК СКСО). На этих постах был принципиальным противником применения смертной казни, массовых обысков, системы заложничества.

30 августа 1918 г. убит народным социалистом Л. А. Каннегисером, членом организации Б. В. Савинкова – М. М. Филоненко, в вестибюле здания Главного штаба на Дворцовой площади, где размещался Комиссариат внутренних дел. Вместе с состоявшимся в тот же день покушением на В. И. Ленина в Москве убийство Урицкого    послужило поводом    для    начала    красного    террора. 1 сентября 1918 г. похоронен на Марсовом поле.