Гербарные коллекции в ГБС начали накапливаться сразу же после образования сада, документируя флористические и интродукционные исследования, проводимые сотрудниками разных отделов. Однако первые годы он не имел ни помещения, ни какого-либо структурного оформления. Поэтому датой основания гербария ГБС принято считать 1958 г., когда после ввода в строй Лабораторного корпуса, для Гербария был выделен большой зал площадью 280 кв. м. Одновременно была собрана гербарная рабочая группа в составе 5 научных и 2 технических сотрудников отдела природной флоры, которую возглавил В.Н. Ворошилов.
Начало быстрому росту гербария, включавшему тогда б.ч. сборы В.Н. Ворошилова, Б.М. Кулькова и В.А. Штамма из Воронежской и Московской областей, было положено получением почти полного комплекта эксикат Санкт-Петербургского ботанического института (“Гербарий флоры СССР”), дублетов сборов Д.П. Сырейщикова из Московской области. Дальнейшие поступления были в основном связаны с экспедиционными поездками сотрудников сада за живым материалом для создаваемых экспозиций природной флоры СССР.
С самого начала фонды гербария были разделены по географическому принципу на 8 разделов, аналогично коллекционным участкам отдела природной флоры, коллекции которых Гербарий был призван документировать.
Это разделы: 1. Российского Дальнего Востока (без Колымы и Чукотки, которые отнесены к Сибири); 2. Сибири (включая Чукотку и Колыму, а также северный и центральный Казахстан, но исключая собственно Урал); 3. Средней Азии (включая южный Казахстан от Тарбагатая до нижней Эмбы); 4. Европейской части бывшего СССР (кроме Крыма, но включая горный Урал); 5. Московской области; 6. Крыма; 7. Кавказа (включая равнинный Дагестан, Ставропольский и Краснодарский края); 8. Дальнего зарубежья (т.е. вне СССР).
С 2017 года была начата оцифровка фондов гербария ГБС, которая интенсифицировалась с 2021 года благодаря закупке специальных гербарных сканеров по программе Минобрнауки поддержи ЦКП "Гербарий ГБС РАН", 075-15-2021-678
Подробности: Скворцов А.К., Белянина Н.Б. Гербарий Главного ботанического сада Российской академии наук. Москва, 2005. 46 с.