Перша документально підтверджена згадка про створення бібліотеки при Археологічній комісії (однієї зі структур, які передували створенню Інституту) датується 22 серпня 1921 року. Тоді було ухвалено створити при комісії бібліотеку, затвердивши посаду її завідуючого з обов’язками каталогізатора.
Тим самим роком датується заснування бібліотеки Музею (Кабінету) антропології та етнології ім. Ф. Вовка (установа, яка згодом також стала однією зі складових частин Інституту). Бібліотека, як і сама установа, була заснована на матеріалах Ф. К. Вовка, що за його заповітом були передані Академії наук. Керував бібліотекою Євген Олександрович Дзбановський.
З часу утворення бібліотек їхні фонди почали доволі активно поповнюватися, як за рахунок дарунків так і шляхом активного обміну книгами з установами СРСР та достатньо активному книгообміну із закордонними колегами. Проте, у 30-х роках припинилося надходження іноземної літератури через заборону зв’язків із закордонними колегами. Крім того, книжкові фонди неодноразово підлягали «чистці» на предмет вилучення з них літератури «ворожого» спрямування.
З 30-х років почалося реформування Академії наук. У 1933 році на базі Всеукраїнського археологічного комітету, Кабінету Антропології і Етнології ім. Ф. Вовка, Музею Археології, Етнологічного музею, Етнографічної Комісії була організована Секція історії матеріальної культури (СІМК) як тимчасова перехідна структура перед створенням інституту (1934 р.). Існує документ, який підтверджує, що бібліотека СІМКу увібрала в себе бібліотечні зібрання всіх установ, що увійшли до її складу. Про це свідчать і відповідні штампи на сторінках книжок у фонді бібліотеки Інституту археології.
У 1935 році завідуючим бібліотекою Інституту був призначений Є. О. Дзбановського, який опікувався нею до 1954 року.
На жаль, з’ясовуючи долю бібліотечного фонду під час війни, ми можемо користуватися лише фрагментарними даними. Документальних свідчень про евакуацію фонду чи його частини до Уфи не існує. Очевидно, він зоставався у Києві і значною мірою зберігся завдяки зусиллям співробітників, що залишилися в окупованому місті. Однак частину книжкового фонду бібліотеки, як свідчить «Акт об ущербе, причиненном немецко-фашистскими захватчиками Институту археологии АН УССР», було вивезено у Німеччину. Це складало більше 7 тис. примірників книг археологічного змісту. У 1948 році більшість цих видань були повернуті з Німеччини до бібліотеки Інституту.
Одразу після повернення з евакуації співробітники Інституту здійснювали розшук і повернення матеріалів, поступово доводили до ладу його приміщення. До структури повоєнного Інституту бібліотека входила разом з архівом, маючи двох співробітників — завідуючого бібліотекою і архівом Є. О. Дзбановського та бібліотекаря-архіваріуса С. А. Гельфенбейн. Як свідчать джерела, впродовж другого півріччя 1944 року було проведено велику роботу з упорядкування книжкових і архівних фондів. Інститут також вживав заходів з поповнення книжкових фондів археологічними виданнями через низку наукових закладів і видавництв.
У 1955 році до бібліотеки прийшла працювати Катерина Семенівна Корнієнко, яка з 1957 до 1991 року очолювала цю структуру. 50-ті роки були часом активного переформування фондів бібліотек спорідненого профілю та інтенсивної роботи з бібліотечним фондом. У цей час формуються основні паперові картотеки бібліотеки, зокрема винятково цінна картотека статей з археології.
Часом найбільш регулярного, цілеспрямованого та систематичного поповнення фонду бібліотеки Інституту археології були 60-ті — початок 90-х років. Фонд поповнювався через «Академкнигу», Відділ іноземного комплектування Державної Публічної Бібліотеки, за рахунок обміну з іншими установами (Державним Ермітажем, Інститутом археології АН СРСР, Академії наук Узбецької РСР, Середньоазіатським Державним Університетом, Інститутом історії, мови і літератури Молдавії, Академією архітектури УРСР та ін.). Досить стабільним і достатнім було фінансування на придбання літератури, передплату періодичних видань. У цей час бібліотека Інституту археології перетворилася на одну з найкращих бібліотек археологічного профілю. Було проведено велику роботу з поповнення втраченого під час війни фонду через букіністичні магазини Москви, Ленінграда і Києва. До фондів бібліотеки надійшли близько 20 приватних бібліотек видатних вчених-археологів. Традиція передачі до фондів бібліотеки книгозбірень колишніх працівників Інституту триває донині.
З 1991 р. бібліотекою почала керувати Вікторія Анатоліївна Колеснікова.
З цього часу бібліотека, не полишаючи традиційної діяльності, почала впроваджувати нові інформаційні технології, поступово переходити до створення електронних каталогів і баз даних, почавши з нових надходжень. Станом на сьогодні електронний каталог відображає вітчизняні і зарубіжні монографії, збірники праць і періодичні видання, автореферати дисертацій (близько 30 тисяч записів); а також фахові статті (понад 70 тисяч записів).
Регулярно (майже щомісяця) у приміщенні читального залу бібліотеки влаштовуються виставки нових надходжень, які користуються великим попитом у читачів. Окрім цих виставок традиційними є тематичні книжкові виставки, що готуються до ювілеїв, пам’ятних дат, конференцій тощо. (Фото сучасної бібліотеки).
Читачі мають можливість скористатися низкою послуг, які надаються бібліотекою дистанційно (матеріали довідкового характеру, електронні копії статей, тематичні бібліографічні списки тощо).
Останніми роками фонд бібліотеки щорічно поповнюється приблизно на 1 тисячу примірників, при цьому основними джерелами надходжень є обмін і дарунки. На жаль, можливості для цілеспрямованого систематичного поповнення фондів нині немає.
Колектив бібліотеки сьогодні складається з чотирьох співробітників: Вікторія Колеснікова, Ірина Черновол, Світлана Пічкур, Ірина-Варвара Філіппова.