Родился в селе Барханово Ярославской губернии. Художественное образование получил в Рисовальной школе общества поощрения художеств и Академии художеств, которую окончил с серебряной медалью. Также занимался в Петербургском университете. С 1919 по 1926 годы с небольшими перерывами работал на Государственном фарфоровом заводе. Некоторые из его работ были отмечены почётным дипломом на Миланской выставке. Наряду с созданием собственных художественных произведений, выполнял росписи по эскизам других художников. В пример можно привести тарелку с изображением пейзажа, которая была расписана Громовым по рисунку М. М. Адамовича в 1919 году.


Александр Громов является автором росписи двух памятных тарелок «на смерть В. И. Ленина». Известные работы художника имеют подпись «А. Громовъ» с датой «1924» и авторской меткой в виде изображения ели.


Во второй половине 1940-х годов, после освобождения Павловска, Громов занимался реставрацией архитектурного ансамбля Павловска. Участвовал в живописных реставрационных работах в Великом Новгороде. Также вел преподавательскую деятельность в Школе народного искусства и в «Школе Рериха», был участником Ленинградского Союза художников и сотрудником Отдела искусств и памятников старины.