Сын прапорщика, служившего комиссаром в Адмиралтействе, Захаров шестилетним мальчиком в апреле 1767 года был определен воспитанником в училище при Академии художеств. В 1782 году он с большой золотой медалью окончил академию и был послан за границу, где пробыл до 1786 года. По возвращении в Россию он произведен в «назначенные», а в следующем, 1787 году по представлению адъюнкт-ректора Фельтена предложен в адъюнкт-профессоры при архитектурном классе. Утверждение, впрочем, состоялось лишь в 1794 году, одновременно с присуждением ему звания академика. Через три года, в 1797-м, он назначен профессором.
В 1803 году по случаю смерти профессора Волкова ученики этого последнего и место старшего профессора архитектурного класса переходят к Захарову. Через восемь лет, в 1811 году, Захаров скончался, и ученики его, и место старшего профессора перешли к Воронихину. Таким образом, Захаров всю свою жизнь, с раннего детства до дня кончины, провел в стенах академии. Но не в академии черпал Захаров, будучи учеником, вдохновение для будущих своих работ. Его учителями были Фельтен и Волков, люди старой, екатерининской школы, от которых он не хотел ничего взять и не взял. Он нашел свою дорогу лишь после того, как пробыл четыре года во Франции и там приобщился к новой классике, представителями которой были ученики Блонделя-младшего, с Леду во главе. В числе их был и Шальгрен, к которому Захаров поступил в ученики. Даровитый мастер, построивший впоследствии знаменитую триумфальную арку на Пляс Этуаль, дал, конечно, немало своему ученику.
Захаров строил много и много проектировал.
И. Грабарь