Начало Великой Отечественной войны Иван Васильевич Болдин встретил в должности заместителя командующего Западным фронтом. В первые часы войны вылетел из Минска в Гродно для организации боевых действий.

С 22 ноября 1941 года Болдин был командующим 50-й армией, которая освобождала Тульскую область. Затем руководил войсками в Калужской наступательной операции, Ржевско-Вяземских наступательных операциях 1942 и 1943 года, Орловской операции, Смоленской наступательной операции, Брянской наступательной операции, Гомельско-Речицкой операции и Белорусской наступательной операции.

После войны командовал 27-й армией, которая дислоцировалась в восточных районах Румынии. Потом был начальником Управления Советской Военной администрации в Германии в Тюрингии. Последним местом службы военачальника стал Киевский военный округ.

Иван Васильевич Болдин умер 28 марта 1965 года, похоронен в Киеве. Память о нем свято чтут жители городов, за которые сражалась армия под командованием Болдина в годы Великой Отечественной войны. Имя героя увековечено в названиях улиц в Калуге, Могилёве, Туле, Гродно, Саранске, Кадошкино (Мордовия), Щёкино (Тульская область), Ямное (Воронежская область). В калужском сквере имени И.В. Болдина установлен памятник.