Андрей Абрикосов родился 1 (14) ноября 1906 года (по другим источникам - 14 (27) ноября 1906 года) в Симферополе (Таврическая губерния) в семье агронома.
В ранней юности, которая пришлась на годы Гражданской войны, много скитался по югу России, беспризорничал.
В 1924 году окончил «Школу памяти погибших в Октябрьскую Революцию коммунаров» в Туле. В 1924—1925 годах — чернорабочий на уборке винограда в селе Широкая Балка под Новороссийском. В 1925 году перебрался в Москву, где устроился работать чернорабочим артели «Строй радио». В столице поступил в кинематографическую студию А. С. Хохловой, но вскоре оставил её и занимался у З. С. Соколовой, сестры К. С. Станиславского.
В 1926—1929 годах — сотрудник Театра-студии Малого театра (с 1932 года — Новый театр). Однако ролей начинающему актёру не давали. В 1929 году актёра, не сыгравшего ни одной роли в театре, утверждают на роль Григория Мелехова в немом фильме «Тихий Дон». Выход этого фильма в 1931 году на экраны принес актёру широкую известность. В 1929—1930 годах — актёр киностудии «Союзкино» (ныне «Мосфильм»).
1930—1931 годах — актёр Рабочего передвижного театра, в 1931—1937 — Реалистического театра, в 1937—1938 — Камерного театра (все в Москве).
С 1938 года — актёр Московского театра им. Е. Вахтангова, где играл до конца своей жизни. В 1953—1959 годах — директор театра.
При сдержанной и лаконичной манере игры обладал мощнейшим темпераментом и в лучших своих ролях достигал подлинных высот.
Член Союза кинематографистов СССР
Член ВКП(б) с 1950 года.
Скончался Андрей Львович Абрикосов 20 октября 1973 года (по другим источникам — 19 и 21 октября) в Москве. Похоронен на Новодевичьем кладбище (участок № 7).