Александр Дмитриевич Чертков принадлежал к старинному дворянскому русскому роду, родоначальниками которого были Василий и Гаврило Чертковы, показанные в разрядах 1558 года воеводами. Дедом его по материнской линии был известный любитель книг С. И. Тевяшов. Книга и страсть к чтению определили и жизнь внука.
Черткова как-то неловко называть библиофилом и коллекционером, слишком сильно в нем сказывается влияние века Просвещения, культ книжного знания. Председатель Московского общества истории и древностей российских, археолог и нумизмат, основатель знаменитой библиотеки Александр Дмитриевич Чертков не учился ни в гимназии, ни в университете. Свои обширные познания, ставившие его в ряд образованнейших людей эпохи, он приобрел самостоятельно. «Сосредоточенный, молчаливый, — писал о нем Бартенев, — порой чудной на вид, он скромно, но постоянно и неуклонно следовал по однажды избранному пути, так что многие его знакомые, встречаясь с ним в светских кружках, вовсе не подозревали в нем многосторонней учености».
В молодости Чертков служил в лейб-гвардии конном полку, в войну 1812 года был одним из организаторов московского ополчения, участвовал в заграничных походах, сражался под Дрезденом, Лейпцигом, особенно отличился в Кульмском сражении.
С 1813 года Чертков вел тетради, куда вносил заметки о прочитанных книгах с подробными выписками, отдавая предпочтение книгам о России. «Меня, — признается он, — интересовало все, что когда-либо и на каком бы то ни было языке было писано о России». Выйдя в отставку в 1822 году, Чертков два года провел в Австрии, Швейцарии и Италии, во Флоренции сблизился с автором известной книги об отношениях Польши и России с Италией Себастьяном Чиампи. Помимо ученых занятий он вел путевой дневник, впоследствии составивший книгу «Воспоминания о Сицилии».
Война с Турцией 1828 года вновь заставила его поступить на военную службу, после чего Чертков окончательно вышел в отставку и поселился в Москве, в старинной усадьбе на Мясницкой. Деятельность его весьма разнообразна. Он составил значительный минералогический кабинет, собирал бабочек и описывал флору Острогожского уезда, в 1834 году выпустил «Описание древних русских монет» (Чертков был обладателем богатейшей нумизматической коллекции). С этого времени он почти исключительно посвятил себя изучению русской истории, русских и славянских древностей. В 40–50-е годы вышли исторические труды Черткова: «Очерк древнейшей истории протославян», «Фракийские племена, жившие в Малой Азии» и другие.
Унаследовав от отца и деда с материнской стороны значительную библиотеку, Чертков усердно пополнял ее сочинениями о России, историческими работами на всех европейских языках и славянских наречиях. После смерти Черткова библиотека была открыта для публики и, хотя была сравнительно невелика, до образования в Императорской публичной библиотеке отдела Rossica представляла единственное в России собрание книг о славянских племенах. С 1863 года при Чертковской библиотеке был основан журнал «Русский архив», издававшийся до 1873 года. Когда в 1883 году открылся Исторический музей, библиотека и нумизматическая коллекция были переданы туда.