В 1927 году по инициативе мэра Линь Юньгай на муниципальном собрании было принято решение для развития культуры создать городскую библиотеку в честь г-на Сун Ятсена. В том же году правительство направило представителей собирать пожертвования в США, Кубе, Канаде и Мексике и получили средства от эмигрантов.

В 1928 году был создан подготовительный комитет Гуанчжойской городской библиотеки имени Сун Ятсена, в состав которого вошли 16 членов, в том числе Линь Юньгай и Ду Динью.

В 1929 году началось строительство библиотеки на улице Вендэ, где находилось бывшее училище.   

15 октября 1933 года библиотека была открыта. Ву Чжимэй был назначен первым директором библиотеки.

В 1934 году Гуандунская провинциальная библиотека была упразднена, Её фонд, насчитывающий 33500 книги, передали городской библиотеке.

В 1938 году Гуанчжоу попал в руки врага. Библиотека была закрыта.

В 1945 году была одержана победа над японским агрессором. Ду Динъю был начальником подготовительного отдела городской библиотеки.

В 1949 году Гуанчжойской городской библиотеке было присвоено имя Сун Ятсена.

После освобождения города Гуанчжоу библиотека была переименована в Гуанчжойскую библиатеку имени Сун Ятсена.

В 1955 году провинциальная и городская библиотеки объединяются на Гуандунскую провинциальную библиотеку имени Сун Ятсена. Бывшее задание служит северным филиалом, который именуется Музеем исторических документов г-на Сун Ятсена.

В декабре 1980 года в муниципальном собрании при Гуанчжойском горкоме принято решение о начале подготовительных работ по постройке Гуанчжойской библиотеки.

В январе 1981 года Городское управление культуры объявило, что создана подготовительная группа по основанию Гуанчжойской библиотеки, и что библиотека будет построена на основе музея «Синхуо Ляоюань »

2 января 1982 года была проведена церемония открытия Гуанчжоуской библиотеки.

В октябре 2004 года Гуанчжойский городской комитет по делам планирования и развития утвердил проект о строительстве нового здания Гуанчжойской библиотеки.

С октября 2004 года по январь 2005 года Гуанчжоуская библиотека организовала международный конкурс нам архитектурный проект нового здания библиотеки.

20 февраля 2006 года был заложен первый камень Гуанчжоуской библиотеки (новое здание)

28 декабря 2012 года Гуанчжойская библиотека была частично открыта.

23 июня 2013 года Гуанчжойская библиотека (новое здание) была полностью открыта посетителям.