Родился в Свеаборге 6 июня 1838 г. На воспитание был принят в 1850 г. в Новогородский графа Аракчеева Кадетский корпус, a в 1852 г. переведен в Петербург во 2-й Кадетский корпус. В 1858 г. принят в число студентов Петербургского университета в филологический факультет.
В 1861 г., по случаю закрытия университета, уволен из оного и в 1862 г. поступил в ученики Императ. Академии художеств пенсионером его величества. В том же году получил малую серебряную медаль, a в 1863 г. большую за успехи в пейзажной живописи.
В 1864 году вышел из академии со званием классного художника 3-й степени и в 1865 г. уехал на жительство в г. Харьков, где, женившись, поступил на службу сперва в контору Государственного банка, a c 1871 года секретарем в Харьков. земельный банк.
В 1875 году 1-й раз экспонировал на передвижной выставке, a в 1876 г. принят в число членов Товарищества передвижных выставок. С этого же времени переехал в Москву. С 1877 по 1881 г. был преподавателем рисования во 2-й женской гимназии и с того же 1877 г. по сие время служит в Москов. общ. любителей художеств товарищем секретаря.
В 1893 году А. А. Киселев избирается действительным членом Академии художеств, переезжает с семьей в Петербург, а с 1897 года преподает в императорской Академии художеств, как профессор пейзажного класса.
Через два года за успехи в живописи ему присвоено звание академика. В том же 1899 году он впервые приезжает в посад Туапсе. Море, Кавказские горы пленили художника, и он приобретает в Туапсе дачу на мысе Кадош, а затем строит дом городского типа, где теперь находится дом-музей А. А. Киселева.