Библиотека Академии наук была основана в Санкт-Петербурге одновременно с Кунсткамерой.
Основу фонда библиотеки составили рукописи и книги Кремлевской царской библиотеки в Москве, Аптекарского приказа, Готторптской библиотеки герцогов Голштинских, Митавской библиотеки герцогов Курляндских, личного собрания Петра I в Летнем дворце, а также книжные и рукописные коллекции сподвижников Петра I — Якова Брюса, Феофана Прокоповича, Андрея Виниуса, опальных вельмож Андрея Остермана, Бурхарда Миниха и других.
Первым директором библиотеки стал лейб-медик Петра I Роберт Арескин.
В 1718 году библиотека была размещена в каменном доме казненного деятеля петровского времени Александра Кикина — “Кикиных палатах”.
В 1725 году библиотека была передана в ведение Петербургской Академии наук, и в 1728 году была переведена на Васильевский остров в новое помещение, построенное специально для учреждений Академии наук.
Приоритетное право пользоваться библиотекой после 1728 года было закреплено за академиками, но и другие образованные люди могли ее посещать. Такой режим доступа в библиотеку сохранялся до 70-х годов XVIII века.
В 40-х годах XVIII века библиотека именовалась “Императорская Санкт-Петербургская библиотека” или просто “Библиотека”. В 1776 году академический библиотекарь Иван Бакмейстер в своей книге “Опыт о Библиотеке и Кунсткамере Санкт-Петербургской Академии наук” свидетельствовал о ее новом официальном названии “академическая библиотека”.
Пополнение фондов отечественной литературой осуществлялось главным образом за счет новых академических изданий, а также путем покупки и получения в дар отдельных книг и коллекций. С 1783 года библиотека стала получать обязательный экземпляр всех отечественных изданий.
Положение библиотеки в составе Академии наук определялось уставами Академии. В 1803 году “Регламент Академии наук” выделил библиотеку в самостоятельное учреждение, отделив ее от Кунсткамеры. Территориально они находились вместе до 1922 года.
В 1818 году президент Академии наук Сергей Уваров принял меры к пополнению фондов и упорядочению их использования.
Библиотека была разделена на две части — из книг “на славянском и российском языках” и “из книг на всех прочих языках” (иностранных). Более столетия главная Библиотека Академии наук существовала в виде двух самостоятельных библиотек — I (Русское) Отделение и II (Иностранное) Отделение.
В 1883 году в I (Русском) Отделении в качестве самостоятельного подразделения был выделен Славянский отдел; в 1893 году — Журнальный отдел; с 1899 по 1901 годы — Рукописный отдел и Русский книжный отдел. Была введена новая форматная расстановка фондов; разрабатывались и внедрялись системы библиотечной классификации.
В первой половине XIX века из библиотек при научных учреждениях Академии начала создаваться сеть специальных академических библиотек. К концу XIX века их число достигло пятнадцати.
В январе 1901 года из-за ветхости системы отопления в библиотеке произошел пожар, во время которого погибло более 1500 томов ценных изданий. Это событие ускорило решение вопроса о строительстве нового здания. В 1910 году была утверждена правительственная смета на строительство нового здания библиотеки по проекту архитектора Роберта Марфельда. В 1914 году оно было закончено, но из-за начавшейся Первой мировой войны освоение нового здания было невозможно, так как оно было передано Военному министерству, которое разместило в нем 166-й сводный эвакуационный госпиталь. Только в 1924 году библиотека начала перевод своих фондов в это здание, тогда весь книжный фонд Библиотеки Академии наук составлял 3,5 миллиона томов.
9 октября 1925 года в дни празднования 200-летнего юбилея Академии наук состоялось официальное открытие библиотеки.
С 1925 года библиотека стала называться Библиотекой Академии наук СССР (БАН).
С 1932 года в библиотечную сеть Академии наук вошли библиотеки ее периферийных баз и филиалов в Европейской части страны, Сибири и на Дальнем Востоке. В 1934 году было создано особое отделение библиотеки, названное Московское отделение Библиотеки Академии наук (МОБАН). В 1973 году МОБАН получило статус самостоятельной центральной библиотеки Академии наук — Библиотека по естественным науками (БЕН АН СССР).
В годы Великой Отечественной войны (1941-1945) Библиотека Академии наук была переведена на военное положение. Весь период войны и Ленинградской блокады в библиотеке работали абонемент и читальный зал, создавались передвижные библиотеки для ленинградских дивизий народного ополчения, для воинских частей и госпиталей.
С 1944 года БАН стала хранительницей Бронированного фонда Президиума Академии наук СССР. Этот фонд представляет собой собрание изданий Академии с момента ее основания.
В 50-70-е годы XX века БАН развивалась как центральная библиотека библиотечной сети Академии наук СССР. Библиотека расширила книгообмен с социалистическими странами, вела серьезную научную деятельность в области библиографии, научного описания документов и публикации рукописных материалов, обобщения опыта библиотечной работы и истории БАН. В БАН были организованы издательский отдел и реставрационно-полиграфические мастерские.
14-15 февраля 1988 года в Библиотеке Академии наук произошел крупный пожар. Огнем было уничтожено около 400 тысяч книг и периодических изданий; 1/3 газетного фонда; от воды и влаги пострадало 3,5 миллиона единиц. Был создан штаб по ликвидации последствий пожара, составлен план работ, который корректировался по мере изменения обстановки.
Помощь предложили Международный фонд за выживание и развитие человечества, ЮНЕСКО, Международная федерация библиотечных ассоциаций и институтов (ИФЛА), Библиотека конгресса, институт консервации им. Гетти (США) и другие.
Комплексный план ликвидации последствий пожара был составлен в апреле 1988 года. В 1992 году была завершена документальная проверка библиотечных фондов, составлены списки утрат, списки книг, подлежащих списанию и списки на восполнение фондов.
В настоящее время Единый библиотечный фонд системы Библиотеки Российской академии наук включает универсальный по содержанию фонд центральной библиотеки, в котором находится более 20,5 миллионов экземпляров и отраслевые фонды специальных библиотек. Книжный фонд в отделах и секторах БАН при петербургских учреждениях РАН превышает шесть миллионов экземпляров. 40% изданий единого фонда БАН составляют иностранные издания. В фонде БАН содержится 9,5 миллионов книг, около 9 миллионов журналов, свыше 26 тысяч названий газет; фонд редких изданий — около 250 тысяч единиц хранения и 18,5 тысяч рукописей.