Родился в городе Екатеринослав, Российская Империя (ныне - Днепропетровск). С 1929 года Гай начал работать в радиостудии областного радиокомитета. Учился в Школе-студии 2-го МХАТа (1933-1936, класс С.Г. Бирман), музыкальном училище имени А.К. Глазунова (1933-1938, класс педагога-вокалиста В. Биляевой-Тарасевич). В 1929-1932 годы - актёр Днепропетровского театра имени Тараса Шевченко, в 1936-1938 годы параллельно учёбе в музыкальном училище работал в Московском театре имени Ермоловой под руководством Н.П. Хмелёва. С 1938 года, находясь на службе в армии, работал в войсковых ансамблях песни и пляски, в 1941-1945 годы - во фронтовых бригадах. С 1945 - 1947 - актёр Московского драмтеатра. С 1947 года - актёр Львовского украинского драматического театра имени М. Заньковецкой. Заслуженный артист Украинской ССР (1951). Народный артист Украинской ССР (1956). Народный артист СССР (1977). Ушёл из жизни в городе Львов, Украина, похоронен во Львове на Лычаковском кладбище. О жизни и творчестве Александра Гая снят документальный фильм "Александр Гай" (1999, режиссёр Олег Бийма).