Заслуженный артист РСФСР (23.01.1974). Народный артист РСФСР (4.06.1980). Его отец был в числе двадцатипятитысячников, которые в тридцатые годы поднимали целину. После войны семья отца переехала в Москву. Отец работал на ЗИЛе, куда со временем пришёл и Пётр. Работал в конструкторском бюро штамповочно-механического цеха, а вечерами учился в автомеханическом техникуме. Получил диплом с отличием и без экзаменов перешёл во ВТУЗ. Однажды летом, гуляя, он наткнулся на ГИТИС имени А. В. Луначарского, о местонахождении которого раньше понятия не имел. Зашёл. Встретил кого-то из педагогов и заявил: «Пусть ваши специалисты меня посмотрят. Если для театра не гожусь, так и скажите. Я не Катерина, в Волгу не брошусь!». Как ни странно, собрали комиссию. Щербаков привёл партнёршу из клуба, с которой разыграл сцену у фонтана из «Бориса Годунова», и его взяли. Но так как ГИТИС набирал в тот год только на режиссёрский факультет, Петру предложили поступить сразу на второй курс. Доучившись до конца, Щербаков отправился на три года в Германию, в Театр группы советских войск (1953-1956). С 1958 года — актёр театра «Современник». В 1985 году перешёл из «Современника» во МХАТ.