Родился 25 июня 1883 г. в Санкт-Петербурге. Закончил реальное училище Карла Мая (1901). В 1901–1910 гг. учился в Институте гражданских инженеров. В 1905–1906 гг. работал у видных финских зодчих Армаса Линдгрена и Элиэля Сааринена в Хельсинки. Позже в Санкт-Петербурге сотрудничал с мастером петербургского модерна Ф. И. Лидвалем.
В 1908 г. построил деревянную дачу в формах северного модерна для писателя Леонида Андреева в Райволе (близ нынешнего посёлка Рощино; не сохр.). Участвовал в строительстве здания Азовско-Донского банка на Большой Морской ул., 3–5 (автор Лидваль) и других зданий. В 1916 г. архитектор был мобилизован в армию и отправлен на Кавказ.
В 1920-х гг. занимался восстановлением предприятий, разрушенных в годы Первой Мировой и Гражданской войн, проектированием и строительством промышленных сооружений.
В 1930–1941 гг. руководил одной из мастерских «Ленпроекта», создавшей многочисленные проекты жилых домов: на Суворовском проспекте, Малой Охте, комплекс трёх жилых домов на Московском проспекте. Проектировал общественные здания: речной вокзал (1934 г., соавтор М. М. Липкин, не сохр.), школы на ул. Салтыкова-Щедрина (Кирочной) и на 17-й линии Васильевского острова и др.
Самое известное творение архитектора А. А. Оля и его коллег Н. А. Троцкого и А. И. Гегелло – административное здание ОГПУ – НКВД (Большой дом) на Литейном пр., 4. Оно было спроектировано и построено в 1931–1932 гг.
А. А. Оль проектировал и для других городов: Дом культуры завода «Серп и молот» в Москве, Дом советов в Мурманске, ряд санаториев в районе Кавказских Минеральных Вод и в Крыму.
В первые военные месяцы А. А. Оль возглавлял рабочую группу по маскировке особо важных объектов Ленинграда. В начале 1942 г. Е. А. Левинсон, А. А. Оль и Г. А. Симонов приступили к разработке проекта планировки и застройки жилого квартала в Магнитогорске.
В 1944–1947 гг. А. А. Оль руководил мастерской № 8 «Ленпроекта», работавшей над восстановлением и реконструкцией Петергофа (Петродворца). Под его руководством были разработаны генеральный план восстановления и реконструкции города, проект планировки и застройки его центральной части, проект восстановления большого дворца и «Монплезира», проекты жилых домов. В эти же годы А. А. Оль создаёт проект восстановления и реконструкции г. Урицка (ныне в составе юго-западных районов Петербурга), проект планировки и застройки жилого квартала малоэтажными домами.
В течение всей жизни А. А. Оль вёл активную преподавательскую и научную деятельность. В 1912–1916 гг. он преподавал на политехнических курсах Общества народных университетов. В эти же годы им была написана монография о Ф. И. Лидвале. С 1921 г. и до конца жизни преподавал в Институте гражданских инженеров (затем ЛИСИ, ныне СПбГАСУ). Начиная с 1948 г. Андрей Андреевич руководил здесь кафедрой архитектурного проектирования.
Скончался 27 августа 1958 в г. Ленинграде. Похоронен на Литераторских мостках.
В 1908 г. построил деревянную дачу в формах северного модерна для писателя Леонида Андреева в Райволе (близ нынешнего посёлка Рощино; не сохр.). Участвовал в строительстве здания Азовско-Донского банка на Большой Морской ул., 3–5 (автор Лидваль) и других зданий. В 1916 г. архитектор был мобилизован в армию и отправлен на Кавказ.
В 1920-х гг. занимался восстановлением предприятий, разрушенных в годы Первой Мировой и Гражданской войн, проектированием и строительством промышленных сооружений.
В 1930–1941 гг. руководил одной из мастерских «Ленпроекта», создавшей многочисленные проекты жилых домов: на Суворовском проспекте, Малой Охте, комплекс трёх жилых домов на Московском проспекте. Проектировал общественные здания: речной вокзал (1934 г., соавтор М. М. Липкин, не сохр.), школы на ул. Салтыкова-Щедрина (Кирочной) и на 17-й линии Васильевского острова и др.
Самое известное творение архитектора А. А. Оля и его коллег Н. А. Троцкого и А. И. Гегелло – административное здание ОГПУ – НКВД (Большой дом) на Литейном пр., 4. Оно было спроектировано и построено в 1931–1932 гг.
А. А. Оль проектировал и для других городов: Дом культуры завода «Серп и молот» в Москве, Дом советов в Мурманске, ряд санаториев в районе Кавказских Минеральных Вод и в Крыму.
В первые военные месяцы А. А. Оль возглавлял рабочую группу по маскировке особо важных объектов Ленинграда. В начале 1942 г. Е. А. Левинсон, А. А. Оль и Г. А. Симонов приступили к разработке проекта планировки и застройки жилого квартала в Магнитогорске.
В 1944–1947 гг. А. А. Оль руководил мастерской № 8 «Ленпроекта», работавшей над восстановлением и реконструкцией Петергофа (Петродворца). Под его руководством были разработаны генеральный план восстановления и реконструкции города, проект планировки и застройки его центральной части, проект восстановления большого дворца и «Монплезира», проекты жилых домов. В эти же годы А. А. Оль создаёт проект восстановления и реконструкции г. Урицка (ныне в составе юго-западных районов Петербурга), проект планировки и застройки жилого квартала малоэтажными домами.
В течение всей жизни А. А. Оль вёл активную преподавательскую и научную деятельность. В 1912–1916 гг. он преподавал на политехнических курсах Общества народных университетов. В эти же годы им была написана монография о Ф. И. Лидвале. С 1921 г. и до конца жизни преподавал в Институте гражданских инженеров (затем ЛИСИ, ныне СПбГАСУ). Начиная с 1948 г. Андрей Андреевич руководил здесь кафедрой архитектурного проектирования.
Скончался 27 августа 1958 в г. Ленинграде. Похоронен на Литераторских мостках.