Родился 23 октября 1908 годa в семье математика (впоследствии профессора) Михаила Людвиговича Франка и медсестры (впоследствии детского фтизиатра) Елизаветы Михайловны Франк (урожд. Грациановой), незадолго до того переселившихся в Санкт-Петербург из Нижнего Новгорода.

Отец будущего физика происходил из известного московского еврейского семейства — его дед, Моисей Миронович Россиянский, в 60-х годах XIX века стал одним из основателей еврейской общины Москвы, a отец, Людвиг Семёнович Франк (1844—1882), был выпускником Московского университета (1872), переселился в Москву из Виленской губернии во время Польского восстания 1863 года и в качестве военного врача участвовал в русско-турецкой войне 1877—1878 годов, будучи удостоенным ордена Станислава и дворянства.[1] Брат отца (дядя Ильи Михайловича Франка) — крупный русский философ Семён Людвигович Франк; другой брат — художник, скульптор, сценограф и книжный иллюстратор Леон (Лев Васильевич) Зак (псевдоним Леон Россиянский, 1892—1980), бывший в 1910-х годах одним из идеологов движения эгофутуристов (под поэтическим псевдонимом Хрисанф).

После окончания в 1930 г. Московского государственного университета, И. М. Франк работает в Ленинграде в ГОИ у профессора Теренина. С 1934 г. работает в Физическом институте им. Лебедева АН СССР. В 1937 году женится на историке Элле Абрамовне Бейлихис (1909—1960), родом из Харькова. В 1944 г. И. М. Франк становится профессором МГУ. В 1946 г. избирается членом-корреспондентом, в 1968 г. академиком АН СССР.

Лауреат двух Сталинских премий (1946, 1953) и Государственной премии СССР (1971).

В 1934 году Черенков обнаружил, что заряженные частицы, проходя с очень большими скоростями сквозь воду, испускают свет. И. М. Франк и И. Е. Тамм дали теоретическое описание этому эффекту, который происходит при движении частиц в среде со скоростями, превышающими скорость света в этой среде. Это открытие привело к созданию нового метода детектирования и измерения скорости высокоэнергетических ядерных частиц. Этот метод имеет огромное значение в современной экспериментальной ядерной физике.