Из дворян, родился в Тамбове. Обучался в Михайловском Воронежском кадетском корпусе, Михайловском артиллерийском училище (1902). Участник сражения при Ляояне в ходе Русско-японской войны (1904). Участник Первой мировой войны. В 1917 г. сочувствовал Партии социалистов-революционеров, но оставался беспартийным. После Октябрьского переворота 1917 г. оказывал сопротивление большевизации армии, арестован, бежал из тюрьмы.

Вступил   в   Добровольческую   армию,   направлен   генералом М. В. Алексеевым в Сибирь для создания конспиративной сети боевых офицерских дружин. Взял псевдоним Алмазов. Узнав о восстании Чехословацкого корпуса, 27 мая 1918 г. приказал подпольщикам тоже поднять восстание. С июня 1918 г. командующий Западно-Сибирской армией. После перехода власти к Временному Сибирскому правительству – управляющий Военным министерством. Генерал-майор (1918). Являясь сторонником военной диктатуры, разошелся с умеренными социалистами – членами правительства, отправлен в отставку. Причастен к жесткому подавлению Славгородского восстания в сентябре 1918 г.

В конце 1918 г. прибыл на Юг, вступил в Добровольческую армию. В декабре 1918 г. возглавил добровольческий отряд, при помощи союзников выбил из Одессы войска С. В. Петлюры. С декабря 1918 по март 1919 г. исполнял обязанности военного губернатора Одессы, организовал оборону города от советских войск. В одесский период был причастен к массовым внесудебным расправам в городе. В конце марта отстранен от должности французскими военными. Продолжал во главе отряда Добровольческой армии контролировать часть города. В апреле покинул Одессу при подходе большевиков.

В качестве  личного   эмиссара   А.  И.  Деникина  направлен  к А. В. Колчаку. 5 мая 1919 г. пароход «Лейла», на котором делегация переправлялась через Каспийское море, был захвачен советским эсминцем «Карл Либкнехт». Не желая сдаваться в плен, Гришин покончил с собой выстрелом из револьвера.