Один из организаторов и руководителей разработок ракетной техники в СССР, военинженер 1-го ранга. Родился в селе Старая Сурава Усманского уезда, Тамбовской губернии, ныне Липецкой области.

В мае 1920 года, после окончания ускоренного курса Военно-хозяйственной академии РККА был направлен в распоряжение Чусоснабарма Юго-Западного фронта, где он прослужил до конца гражданской войны. В 1921 году он поступает на математическое отделение физико-математического факультета московского университета, однако уже в 1923 году по командировке Московского комитета партии был направлен в Военно-воздушную академию им. Н. Е. Жуковского, инженерный факультет которой закончил в 1928 году.

Окончив академию, получил назначение в Ленинградскую газодинамическую лабораторию, где стал заниматься вместе с Владимиром Артемьевым и Георгием Лангемаком разработкой ракетных снарядов на бездымном порохе для самолетов и многоствольных минометов. В 1932—1933 годах он — начальник газодинамической лаборатории, в 1933—1937 годах — начальник Реактивного научно-исследовательского института (НИИ № 3).

В 1937 году и главный инженер Г. Э. Лангемак были представлены к правительственным наградам за разработку новых типов вооружения, а 2 ноября 1937 года они были арестованы, осуждёны по ст. 58-6, 58-7, 17-58-8, 58-11 УК РСФСР (следственное дело No Р2020 (13630)). 10 января 1938 года был расстрелян. Захоронен в первой могиле «невостребованных» прахов возле крематория на кладбище примыкающем к Донскому монастырю.

11 июня 1955 г. по определению No 4н07119/55 Военной Коллегии Верховного Суда СССР было отменено постановление Военной Коллегии от 10 января 1938 г., и дело прекращено за отсутствием состава преступления. Был полностью реабилитирован.

Официальное признание Иван Терентьевич и другие участники создания знаменитого реактивного оружия Второй мировой воины — реактивного миномёта «Катюша» — получили только в 1991 году. Указом Президента СССР М. С. Горбачева от 21 июня 1991 посмертно было присвоено звание Героев Социалистического Труда.

Его именем назван кратер на обратной стороне Луны.