В сводке, составленной отделом народного образования Нальчикского округа 11 февраля 1921 г., даны следующие сведения об открытии библиотеки: «Народная центральная библиотека №1; дата открытия: 14 января 1921 года, адрес: Воронцовская улица, Народный клуб».
Это было крупное для того времени библиотечное учреждение, в котором работали 4 штатных сотрудника, имелась своя, хоть и небольшая смета расходов. Фонд насчитывал 800 экз. книг и журналов. Из-за отсутствия средств на комплектование, пользование библиотекой вначале было платным. Первой ее заведующей стала Жабо М.Ф. Сотрудники библиотеки вели большую работу по комплектованию фондов, пропаганде литературы библиотек области, привлечению на работу грамотной молодежи.
В 20–е годы при библиотеке существовал коллектор, основной задачей которого являлось снабжение книгами сельских библиотек. В 1923 г. он организовал 53 передвижки (с общим фондом 5480 экз.), 30 из них при сельских Советах, а 23 при школах.
Значительную роль в развитии библиотечного дела в области оказывала интеллигенция, представители которой неоднократно обращалась в центральные и местные органы власти с просьбой помочь в развитии тех или иных библиотечных проблем. А в 1922 г. при библиотеке создано общество «Друзей книги», члены которого обратились к Н.К. Крупской с просьбой оказать помощь в комплектовании библиотеки книгами. Спустя месяц, из Москвы пришел ответ, в котором сообщалось, что по решению Главполитпросвета библиотека будет получать один раз в два месяца посылки с литературой. Эти посылки стали основным источником пополнения фондов. В них были собрания сочинений русских классиков, популярные издания научной литературы, книги для малограмотных, популярные издания научной литературы и др.
С 1923 г. библиотека приобретает статус центральной областной и получает здание по ул. Красной, д. 6. Ее фонд насчитывает 3627 экз., она обслуживает 368 читателей.
С каждым годом библиотека крепнет и развивается. В 1928 г. ее фонд составляет 7000 экз., она обслуживает 1300 чел.
В 1929 г. библиотека располагается по адресу ул. Кабардинская, д. 22, при ней действует кружок краеведов, который изучает историю родного края. А в 1930 г. издается первая научная «Библиография о Кабардино-Балкарии по 1929 г.», составитель Д. Сарахан.
С 1933 г. штат библиотеки вводится должность методиста. Создает совет по методической работе, в его составе наиболее квалифицированные работники библиотек города.
В ноябре 1934 г. Областная библиотека отпраздновала новоселье. Ей было представлено большое двухэтажное здание по ул. Кабардинской. Переход в новое, удобное для читателей и сотрудников помещение дал возможность значительно повысить культуру обслуживания читателей, наладить работу «читальни», организовать справочно-библиографический отдел.
В 1936 г. библиотека отмечает 15-летие со дня открытия. Этот год знаменателен тем, что библиотеке присвоено имя Надежды Константиновны Крупской, и официально называется «Кабардино-Балкарская областная библиотека им. Н.К. Крупской», (архивные данные о присвоении библиотеке имени Н. К. Крупской отсутствуют).
К началу Великой Отечественной войны Кабардино-Балкарская Республиканская библиотека им. Н.К. Крупской была самым крупным книгохранилищем, в 1941 г. ее фонд насчитывал 115000 экз. книг и журналов. Читателями библиотеки были более 11 тыс. человек.
С начала войны библиотека перестраивает свою работу в соответствии с требованиями военного времени. Издаются инструктивно-методические письма, рекомендательные списки литературы для громкого чтения.
В 1942 г. фашистами взорвано здание библиотеки, уничтожено и вывезено более 80% фонда. Ее работникам Гуреевой, Иноземцевой, Турчаниновой, Теодорович удалось спасти около 1600 экз. книг, среди которых энциклопедии, словари, книга «История Кабарды» и др. издания.
21 марта 1943 г., спустя 2 месяца после освобождения территории республики от немецко-фашистских захватчиков, библиотека вновь открыта для своих читателей. Теперь она располагается в небольшом одноэтажном здании по улице Кабардинской, д. 22. Ко дню открытия ее фонд насчитывал 15 тыс. экземпляров. Его ядро составили спасенные библиотекарями издания. Большую помощь в восстановлении книжного фонда библиотеки оказали жители г.Нальчика, которые собрали и подарили 5 тыс. книг и журналов.
Население республики возвращается к мирной жизни: люди стремятся учиться, осваивают новые профессии, повышают квалификацию. Во всех их начинаниях неоценимую помощь оказывает библиотека.
В библиотеке велось дифференцированное обслуживание следующих групп читателей: научные работники и специалисты; молодежь (учащиеся средних специальных и высших учебных заведений), большое внимание уделяется демобилизованным фронтовикам, лозунг библиотеки: «Лучшую книгу – воину — Победителю». С особой заботой, с помощью актива, на дому обслуживаются инвалиды Великой Отечественной войны.
В 50-е годы в Кабардинской АССР, как и в стране в целом, идет восстановление народного хозяйства, наращиваются темпы производства, возрождаются из пепла города и села, намечаются пути дальнейшего подъема всех отраслей народного хозяйства, повышения материального благосостояния населения.
В 1957 году издан Указ о преобразовании Кабардинской АССР в Кабардино-Балкарскую АССР. Кабардинская Республиканская библиотека им. Н.К. Крупской вновь стала называться Кабардино-Балкарской Республиканской библиотекой им. Н.К. Крупской. После этого Указа балкарский народ возвращается на свою исконную родину из мест выселения.
Одним из самых значительных событий для коллектива библиотеки и ее читателей в 1960 г. стал ввод в эксплуатацию построенного специально для библиотеки здания, расположенного в центре города, по адресу: ул. Ногмова, д. 42, в котором она располагается и в наши дни. Новое просторное здание предоставило возможность свободно разместить выросший фонд (328821 экз.), а также открыть новые отделы: патентно-технический, музыкально-нотный, иностранной литературы, детский; залы текущей периодики и научных работников гуманитарных наук.