Анатолий Дмитриевич Папанов родился 31 октября 1922 года в горожде Вязьме (ныне — в Смоленской области).
Отец будущего актёра участвовал в театральной самодеятельности: играл в труппе, организатором которой был Николай Сергеевич Плотников, а руководителем — бывшая актриса императорских театров Лучезарская (жена командира вяземского гарнизона). Как вспоминает Анатолий Дмитриевич, Лучезарская выделяла актёрские способности его отца. К этому времени и относятся первые появления юного Папанова на сцене, его (как и сестру), вводили в спектакль, если по сюжету там были нужны дети.
В 1930 году вместе с родителями он переехал в Москву, где семья поселилась на улице Малые Кочки (ныне Доватора), работал в ремонтных мастерских 2-го Московского шарикоподшипникового завода (литейщиком), одновременно занимался в популярной театральной студии при заводе "Каучук". Этим полупрофессиональным театральным коллективом руководили в то время актёры Тенатра имени Вахтангова.
В 1937 году Папанов впервые снялся в кино, сыграв эпизодическую роль в фильме "Ленин в Октябре".
С первых дней войны находился на фронте. Командовал взводом зенитной артиллерии. В июне 1942 года получил тяжёлое ранение под Харьковом; взрывом ему сильно изуродовало правую ногу и оторвало на ней два пальца. Папанов шесть месяцев провёл в госпитале и в 21 год стал инвалидом третьей группы, а первые несколько лет вынужден был ходить с палочкой. Вернувшись в Москву, поступил на актёрский факультет ГИТИСа, в мастерскую артистов МХАТа Марии Орловой и Василия Орлова. Успешно сдал государственные экзамены 11 ноября 1946 года, сыграв молодого Константина в "Детях Ванюшина" Сергея найдёнова и глубокого старика в комедии Рерсо де Молини "Дон Хиль — Зелёные Штаны".
С 1946 года был актёром Клайпедского русского драматического театра, где его первой ролью стал Сергей Тюленин в спектакле "Молодая гвардия".
В 1948 году по предложению режиссёра Андрея Гончарова перешёл в Театр Сатиры в Москве. Всего в этом театре за 40 лет создал 50 образов. Некоторые из спектаклей были записаны для телевидения, в том числе "Ревизор", "Гнездо глухаря", "Маленькие комедии большого города"
Участвовал в создании более 70 кинолент, включая озвучивание мультфильмов, как, например, Волк из мультсериала "Ну, погоди!". Преподавал в ГИТИСе, выпустил диск как исполнитель песен.
Умер 5 августа 1987 года, вернувшись домой со съёмок картины. В это время проходило плановое отключение горячей воды. Страдая от сердечно-сосудистой недостаточности, он, тем не менее, решил принять холодный душ и умер прямо в ванной от сердечного приступа.
Похоронен в Москве на Новодевичьем кладбище (участок № 10). В 1992 году на могиле установлен памятник (скульптор Д.И.Народицкий, архитектор Ю. Н. Воскресенский).
