Первое упоминание о библиотеке появилось в документах архива за 1923 г. Это был небольшой список книг детской читальни №1 (так называлась тогда библиотека). Список состоял из 33 книг для младшего и 53 книг для среднего возраста на сумму 78 руб. 50 коп.
Находилась библиотека в частном 2-х этажном доме по улице Плехановская, 205 (Одесская, 93), который принадлежал хозяйке Руденко Д.В. На первом этаже дома располагалась библиотека. Состояла она из 5 комнат общей площадью 71м2. Арендную плату библиотека платила хозяйке дома ежемесячно вплоть до 1973 г. Руководила читальней Гроссман Любовь Абрамовна.
В 1926 г. детская читальня №1 уже фигурирует как детская библиотека №1, что видно из заявления в окрполитпросвет заведующей библиотекой Гроссман Л.А. В нем говорится о трудных условиях работы библиотеки, о необходимости ремонта, о том, что библиотека обслуживает большую массу читателей отдаленного рабочего района. На 1 февраля 1926 г. библиотека имела 1200 читателей. Читальный зал обслуживал 100-120 читателей в день, а абонемент - 250-300 читателей в день. Заведующая библиотекой просила средства на улучшение материального положения библиотеки.
В 1927 г. были убраны перегородки в комнатах, в результате чего был организован читальный зал 33 м2, абонемент для учащихся 1-4 классов, абонемент для учащихся 5-10 классов, книгохранилище и кабинет заведующей библиотеки. После войны, в 1945 году заведующей библиотекой стала Шустова Елена Онуфриевна.
В 1952 г. Шустова Е.О. уехала из города и заведующей стала Валентина Васильевна Павлюченко. Началась работа по собору материалов о жизни и подвиге Шуры Кобера и Вити Хоменко. Большую помощь оказали родные мальчиков, члены подпольной организации «Николаевский центр», учителя школ №12 и №5, одноклассники. В результате проделанной работы было собрано достаточное количество документов и экспонатов, что дало право просить Сталинский (теперь Ленинский) райисполком присвоить библиотеке имя Шуры Кобера и Вити Хоменко.
Решением Сталинского райисполкома от 15 октября 1959 года библиотеке было присвоено имя пионеров-героев. На митинге в честь этого события присутствовали мать Вити Юлия Ивановна Хоменко, племянница Шуры Светлана Кобер, поэты Михаил Владимов и Эмиль Январев.
В 1973 году библиотека переехала на новое место жительства. Для нее выделили просторное помещение на первом этаже новостройки на проспекте Ленина, 173.
1976 стал годом создания одной большой централизованной системы библиотек. Городская детская библиотека №1 становится Центральной, а к ней присоединились еще 7 детских библиотек. Немного позже в городе открылись еще 3 филиала.
Первым директором Централизованной библиотечной системы стала Гришкова Людмила Алексеевна.
1976 стал годом создания одной большой централизованной системы библиотек. Городская детская библиотека №1 становится Центральной, а к ней присоединились еще 7 детских библиотек. Немного позже в городе открылись еще 3 филиала.
С 1991 года директором становится Семилет Наталья Викторовна.
В 1992 году в библиотеке появились первые компьютеры. Это событие кардинально изменило жизнь библиотеки. Компьютеризация библиотеки началась с издательской и оформительской деятельности. В 1993 году в библиотеке появилась программа «АБИС МАРК» с помощью которой началось создание первого электронного книжною каталога. А в 1996 году библиотека (с помощью модемного соединения) подключилась к всемирной сети Интернет.
1999 год стал еще одной важной вехой в жизни библиотеки. В тот год сотрудники библиотеки написали проект, и что главное, выиграли свой первый грант. Программа «Ты не один в мире», спонсируемая Фондом «Возрождения», позволила провести большую работу по обучению работе на компьютере детей с ограниченными физическими возможностями. Ребята получили компьютеры, оргтехнику и возможность подключиться к Интернету, а библиотекари помогли им настроить технику и научили, как с ней обращаться. Это была первая, но далеко не последняя программа, получившая прописку в стенах библиотеки.
2001-й стал годом создания официального сайта, с помощью которого библиотека заявила о себе всему миру.
В 2003 году в библиотечную практику была внедрена информационная система «АБИС Ирбис». На данный момент электронный каталог насчитывает более 123000 записей и включает в себя базы данных «Книжный фонд», «Периодика», «Читатели», «Электронные ресурсы». Сейчас электронный каталог библиотеки представлен в Интернете.
В 2009 году у нас появился блог «Библиотека города №», а в 2011-м к нему добавился микроблог в Твиттере. Сейчас работают еще два библиотечных блога – «Віконце в Америку», «Vbiblioteke».
2011 год принес библиотеке две победы: второе место в конкурсе Украинской библиотечной ассоциации «Бібліотека року» и победу в Первом национальном конкурсе блогов «3ірки біблютечної блогосфери» в номинации «Кращий блог бібліотеки». В этом же году в библиотеке была создана Абонементная служба книжной навигации (АСКН). В конце года был торжественно открыт зал «Электронно-информационных ресурсов». Кроме книг и компьютеров в нем появились электронные книги (с доступом к интернет) и айпады.
В 2012 году наша библиотека выиграла третий раунд конкурса «Организация новых библиотечных услуг с использованием свободного доступа к Интернет» и получила грант на сумму 85000 грн. В результате был открыт «Центр свободного доступа к Интернет «Web@квариум».
Осенью 2013 года нашей библиотеке исполнилось 90 лет.
В апреле 2016 года библиотека принимала в своих стенах шведскую фотовыставку «Пазл жизни. Роль семьи в Швеции», проходившую под эгидой Посольства Швеции в Украине. В это же время проводился круглый стол с «острыми углами» «Современная семья. Равные права и равные возможности родителей. Шведсько-украинский опыт» с участием гостей из шведского королевства и ведущих николаевских специалистов: педагогов, психологов, социальных работников.
В 2017 году двери распахнули сразу две обновленные библиотеки: библиотека для детей №2 («Колоbook») на ул. Соборной и библиотека для детей №4 («Читай-city») на Бугском бульваре. В обеих, помимо современного ремонта, было создано креативное пространство и обновлен интерьер.
Весной 2018 года библиотека принимала передвижную выставку «Детская литература Швеции», привезенную в наш город сотрудниками Посольства Швеции в Украине. По следам выставки в библиотеке прошел круглый стол «Разговор о главном. Чтение подростков. Отголоски шведской передвижной выставки» с участием известных николаевских писателей.
Осенью 2018 года библиотека отметила 95-летний юбилей.