Син е на зографа Христо Димитров. Учи рисуване и при своя брат Димитър Зограф, с когото сътрудничи до към 1832 г., след което започва да работи самостоятелно. През 1841 г. се жени в Самоков за Катерина Хаджигюрова. Умира в разцвета на силите си от тиф.
Най-ранната подписана икона на Захарий датира от 1829 г., когато той е бил едва на деветнадесет години.[1] По-късно художникът рисува икони за черквите „Св. Константин и Елена“ (1836) и „Св. Петка“ (1837) в Пловдив, „Св. Богородица“ в Копривщица (1837 и 1838), Мулдавския (1837), Горноводенския (1838), Плаковския (1845), Долнобешовишкия (1845), Преображенския (1851), Соколския и други манастири. Негови са и значителен брой стенописи: в аязмото на асеновградската църква „Св. Богородица Рибна“ (1838), в църквите на Бачковския манастир „Св. Никола“ (1840) и „Св. Архангели“ (1841), в част от главната църква на Рилския манастир (1844), в църквите на Троянския (1847–1848) и Преображенския (1849) манастир. През 1851–1852 г. той прекарва седемнадесет месеца на Атон, изписва външния притвор на главната църква в Лаврата на Св. Атанасий (1852) и рисува икони за конака на Зографския манастир в Карея (1853).[2]
Захарий Зограф е основоположник на българската светска живопис. Той е един от малкото иконописци, които внасят битови елементи в църковното изкуство. Стенописите му от 1840, 1848 и 1849 г. включват автопортрети. В Националната галерия се пазят негов собствен портрет (недатиран) и портрет на Неофит Рилски (1838) с маслени бои.[3] Той оставя след себе си и голям брой рисунки на хартия, непревърнати в завършени произведения. Националната галерия, Институтът за изследване на изкуствата при БАН и музеят в Самоков притежават десетки негови скици с туш и акварел, копирки за икони, орнаментални рисунки, прерисовки на антични фигури, етюди (от натура) на хора и пейзажи (напр. „Бачковският водопад“, „Бряст“, „Аязмото при Кукленския манастир“, „Романтичен пейзаж“). В писма до своя някогашен учител (от самоковското училище) Неофит Рилски Захарий изразява желание да следва в Художествената академия в Санкт Петербург (1838) и съобщава, че в Пловдив взимал уроци по живопис от „двамина майсторе француски зографе“ (1841).[4]
