Иван Александрович Чертов родился в 1905 году в Новочеркасске в семье шахтера. Русский.
Окончил 4 класса гимназии в г. Новочеркасске в 1918 году.
Работал сверлильщиком на Новочеркасском чугунолитейном заводе.
С мая 1920 года — на службе в органах ВЧК-ОГПУ-НКВД СССР. Прошёл путь от районного уполномоченного Новочеркасской окружной ЧК до старшего оперуполномоченного 1-го отдельного Особого отделения ГУГБ НКВД СССР
Окончил Высшую пограничную школу ОГПУ в Москве в 1929 году.
В 1937—1938 годах Чертов был советником при Министерстве внутренних дел Испанской Республики, затем был вице-консулом Полномочного представительства СССР во Франции. В годы Великой Отечественной войны служил в органах СМЕРШ, был начальником 1-го отделения, 1-го отдела УОО НКВД СССР, заместителем начальника 11-го (шифровального) отдела ГУКР "Смерш".
С 1943 года – начальник 11-го (шифровального) отдела ГУКР "Смерш".
После войны занимал должность заместителя начальника Инспекции при Министре государственной безопасности СССР, в конце 1940-х гг. – советник МГБ в Болгарии.
Умер 3 августа 1951 г., похоронен на Новодевичьем кладбище (район Хамовники)