Андрей Петрович Ершов родился в Москве в 1931 г. Окончил механико-математический факультет Московского Государственного Университета в 1954 г. по специальности вычислительная математика, является учеником Алексея Андреевича Ляпунова. Будучи студентом четвертого курса прослушал цикл лекций "Принципы программирования", прочитанный Ляпуновым, и во многом определивший выбор программирования в качестве жизненного пути. В то же самое время Андрей Петрович начал работать в ИТМиВТ АН СССР, участвуя в подготовке приемных испытаний машины БЭСМ. Им была разработана в качестве тестовой задачи программа обращения матрицы.

В 1954 году Ершовым в соавторстве с коллегами были написаны первые программы трансляции арифметических выражений в машинные коды. В этом экспериментальном прообразе компиляторов выражения, прежде чем передать их на обработку в ЭВМ, приходилось вручную переводить в двоичное или восьмеричное представление, поскольку машины тех лет не имели устройств ввода символьной информации

С 1957 года Ершов заведовал отделом автоматизации программирования в ВЦ АН СССР. А начинал он с разработки алгоритмов, численных методов и стандартных программ для БЭСМ и "Стрелы".

На втором году учебы в аспирантуре он приступил к организации отдела теории программирования в ВЦ АН СССР. Выполненные им исследования по созданию программирующей программы для БЭСМ были опубликованы в 1958 г. Их результаты составили первую в мире монографию по автоматизации программирования.

Наряду с научной деятельностью Ершов с первых же шагов занятий программированием участвовал в процессе преподавания: еще студентом по просьбе С.А. Лебедева читал лекции по программированию для разработчиков БЭСМ, а в 1957 г. впервые с его участием были организованы занятия со студентами на мехмате.

По приглашению академика С.Л. Соболева в 1960 г. Ершов начинает работать заведующим лаборатории в Сибирском отделении АН СССР. В дальнейшем переходит на работу в созданный ВЦ, СО АН СССР, с которым и связана его научно-педагогическая работа. Основные направления его деятельности связаны с вопросами автоматизации программирования и проблемами теоретического программирования, объектами которого служат математические абстракции программ. Его перу принадлежат многие статьи в отечественных и зарубежных научных изданиях и ряд книг. В 1970 г. был избран членом-корреспондентом, а в 1984 г. академиком АН СССР. Зарубежные коллеги удостоили его чести и избрали членом ACM (1965 г.) и почетным членом Британского общества по вычислительной технике (1974 г.).

Андрей Петрович принимал активное участие в научной жизни в стране и за рубежом, его часто можно было видеть среди организаторов и выступающих на семинарах, симпозиумах и других мероприятиях. Его доклады вызывали неизменный интерес и нередко служили поводом для широких обсуждений. Так на Второй всесоюзной конференции по программированию в 1970 г., проходившей в Академгородке в Новосибирске, он убежденно отстаивал тезис, что программа наконец стала товаром, и это требует соответствующего отношения со стороны государства как к продукту, так и к его творцу - программисту.

Андрей Петрович Ершов был избран вице-президентом конгресса IFIP, членом редакционных коллегий многих научных изданий и Председателем Научного совета по комплексной проблеме "Кибернетика" АН СССР.