Родился в Великом княжестве Финляндском. Выходец из известного шведского дворянского рода, барон. Окончил Николаевское кавалерийское училище (1889). Участник Русско-японской и Первой мировой войн, генерал-лейтенант (1917). До конца жизни оставаясь монархистом, встретил революционные события 1917 г. крайне негативно и после Октябрьского переворота уволился из российской армии. 18 декабря 1917 г. вернулся в Финляндию, где 23 ноября (6 декабря) была провозглашена независимость.

3 (16) января 1918 г. правительством Финляндии назначен главнокомандующим финской армией, которую ему фактически предстояло создать. Расположил свой штаб на севере страны, в  Ваасе, где начал создавать части из отрядов шюцкора (сил самообороны) и разоружать русские гарнизоны. 15 (28) января в Гельсингфорсе финские социал-демократы произвели переворот, опираясь на Красную гвардию и поддержку русских солдат. В Финляндии началась гражданская война.

Маннергейм сумел сформировать боеспособную 70-тысячную армию, при помощи высадившегося в Финляндии немецкого корпуса к середине мая разгромившую войска Финляндской Социалистической Рабочей Республики.

В конце мая он подал в отставку и выехал в Швецию из-за несогласия с указаниями прогермански ориентированного правительства Финляндии формировать новую армию фактически под руководством немецких военных.

12 декабря 1918 г., после капитуляции Германии, правительство Финляндии ушло в отставку. Временным главой государства – регентом Королевства Финляндия – сейм Финляндии объявил Маннергейма, находившегося в то время в Лондоне.

Как главнокомандующий финляндской армией Маннергейм рассматривал возможность наступления на Петроград в рамках всероссийского антибольшевистского движения. С этой целью вел переговоры с генералами Н. Н. Юденичем, Е. К. Миллером и Верховным правителем России А. В. Колчаком. Однако из-за нежелания последнего признать независимость Финляндии этот союз не состоялся. Контакты с лидерами Белого движения стали одной из причин поражения Маннергейма на президентских выборах 25 июля 1919 г.

С 1931 г. председатель Совета государственной обороны. В 1939–1945 гг. главнокомандующий армией Финляндии, руководил ее действиями в ходе Советско-финской войны в 1939–1940 гг. и в ходе Второй мировой войны на стороне нацистской Германии в 1941–1944 гг. В 1944–1946 гг. президент Финляндии.