1933年在南京成立筹备处，草创期间罕有善本图书。1940至1941年抗战初期，在馆员与爱国志士的努力下，组织「文献保存同志会」，广搜江南等地名家典藏，另外又在川渝等地书肆陆续获得善本，开始进行整理与编目。胜利还都后，复接收汪伪政府及泽存书库所搜图书，并归典藏，馆藏善本图书质量遂蔚为大观。迁台后又购得海内外名家藏书，自此奠定本馆在国际古籍典藏与汉学研究之地位。近年，对于中、西文台湾旧籍文献的搜购尤为积极，其他旧籍包括线装、石印、铅印、拓片、版画、古文书、西文百年书报刊与历史图像文献等，更为国内外学术界重视。在诸多珍藏特藏资料中，以宋、元、明、清善本为主，总计写本、刻本凡12,000余部，近13万册。近8千部之刻本中，宋版174部、金版5部、元版230部、明版6,000多部，嘉兴大藏经1部，其余为活字版，清代以及朝鲜、日本、安南流传较稀之刻本。如以册计算，善本古籍加上普通线装书古籍，约有善本旧籍中文260,760 册、西文4,296册，合计 265,056册。至2016年底统计，其中宋元本珍籍约400余部。除此之外，本馆所藏6,000多部明版书，以及明清稿本和批校本古籍，更为海内外学界所推重，咸认为是研究中华古文化重要资产。