中日甲午戰(zhàn)爭(zhēng)后，張謇認(rèn)為中國(guó)之弱在于貧，救貧之法在于實(shí)業(yè)在于教育，提出“以實(shí)業(yè)與教育迭相之用”、“實(shí)業(yè)為父、教育為母”的主張。在發(fā)展實(shí)業(yè)的同時(shí)，張謇努力興辦新式學(xué)校等各類文化教育設(shè)施。光緒二十八年(1902)，在南通創(chuàng)辦全國(guó)第一所民辦師范——通州師范學(xué)校，王國(guó)維在校任教。后又興辦通州女子師范學(xué)校和海門常樂(lè)鎮(zhèn)張徐女校等一批中、小學(xué)校。除此之外還創(chuàng)辦了南通博物苑、圖書館、醫(yī)學(xué)專科學(xué)校、紡織專門學(xué)校、氣象臺(tái)以及南京河海工程專門學(xué)校。

　　張謇興辦圖書館想法的產(chǎn)生主要是受到兩個(gè)方面的影響。其一，受紹興徐樹(shù)蘭所建古越藏書樓的影響。光緒二十六年(1900)，紹興士紳徐樹(shù)蘭創(chuàng)辦了具有現(xiàn)代圖書館性質(zhì)的古越藏書樓，張謇在考察古越藏書樓之后作了一篇題為《古越藏書樓記》的文章，文章中盛贊徐樹(shù)蘭“舉其累世之藏書，樓以庋之，公于一郡，凡其書一若郡人之書”，“樓成，其鄉(xiāng)之人大歡”，并稱:“亦欲效先生之所為，而亦欲海內(nèi)藏書家皆仿先生之所為也”。其二，受西方先進(jìn)思潮以及示范效應(yīng)的影響。光緒二十九年(1903)，張謇東渡日本進(jìn)行了七十天的實(shí)地考察，行程中的一項(xiàng)重要內(nèi)容就是參觀博物館、圖書館。后來(lái)的1905年，張謇在《上南皮相國(guó)請(qǐng)京師建設(shè)帝國(guó)博物館議》中提出:“夫近今東西各邦，其所以為政治學(xué)術(shù)參考之大部以補(bǔ)助于學(xué)校者，為圖書館、為博物苑，大而都畿，小而州邑，莫不高閣廣場(chǎng)、羅列物品，古今咸備，縱人觀覽。公立私立，其制各有不同。而日本帝國(guó)博物館之建設(shè)，其制則稍異于他國(guó)，且為他國(guó)所不及……我國(guó)今宜參用其法，特辟帝室博物館于京師。”這里特別要提到的一點(diǎn)是，張謇是主張圖書館與博物館合二而一的，他在南通創(chuàng)辦的博物苑兼具圖書館功能就是這種主張的實(shí)際體現(xiàn)。

　　張謇于1905年開(kāi)始多次向朝廷上書。在《上學(xué)部請(qǐng)?jiān)O(shè)博物館議》奏折中，針對(duì)西方各國(guó)包括博物館，圖書館在內(nèi)的公共教育設(shè)施的先進(jìn)，張謇列敷了舊式藏書樓的弊端:“(官家)則以藏庋寶于中秘，推行囿于一隅。其他海內(nèi)收藏之家，扃鐍相私，更無(wú)論矣。”提出“今為我國(guó)計(jì)，不如采用博物館圖書館二館之制，合為博覽館”，如此則“上可以保存國(guó)學(xué)，下可以嘉惠士林”。在《上南皮相國(guó)請(qǐng)京師建設(shè)帝國(guó)博物館議》奏折中，則進(jìn)一步提出了建設(shè)以國(guó)家“圖書館”為龍頭，帶動(dòng)各省各地的圖書館建設(shè)，形成全國(guó)性的圖書館網(wǎng)絡(luò)，以使“文物典章，粲然具備”，更使“莘莘學(xué)子得有所觀摩研究以輔益于學(xué)校”。不僅如此，在兩份奏折中，張謇還提出了很多建館的具體實(shí)施方案。譬如，“最重者則擇地”、“便于交通”、“館中貫通之地，宜間設(shè)廣廳，以備人觀者憩患”、“室中宜多安窗，迎光而遠(yuǎn)濕”、“庋閣之架，毋過(guò)高，毋過(guò)隘”等。在人員選配上提出“必得通東西洋語(yǔ)言文字二三員，以便外賓來(lái)觀，有可咨詢”。在圖書采集方面，則建議以當(dāng)年編纂《四庫(kù)全書》為范，對(duì)獻(xiàn)書者“請(qǐng)旨給賞”。

　　上書同時(shí)，張謇還按照自己的主張?jiān)谀贤▌?chuàng)建了博物苑。他“辟地四十畝，雜采植物實(shí)之。中建三樓為館，以儲(chǔ)三部之物。而以教育晶附焉”。其中的三部為天然、歷史、美術(shù)三部。美術(shù)部中有“經(jīng)史詞章之集，方技書畫之遣”，實(shí)際上具備了圖書館的大致功能。

　　辛亥革命讓張謇最終實(shí)現(xiàn)了圖書館之夢(mèng)，按照張謇自己的記述:“民國(guó)元年，里少年盡毀諸神祠。謇于是謀諸兄謀耆老……因岳廟為圖書館。”圖書館“計(jì)有圖書樓兩幢二十間，曝書臺(tái)五間，廂樓上下十二間，閱覽樓上下八間，兩廊辦事室十間，道故齋上下六間，燕息亭三間，庶務(wù)室、門房、廚房、廁所十三間，共六十七間，計(jì)用銀萬(wàn)二千元。書櫥二百架，計(jì)用銀一千二百六十元，圖書十三萬(wàn)千百卷，他人贈(zèng)者五萬(wàn)卷弱，謇贈(zèng)者八萬(wàn)卷強(qiáng)。職員六人:館長(zhǎng)一，館務(wù)主任一，編輯及保管二，庶務(wù)一，收發(fā)一。規(guī)定每年館用一千六百元，增購(gòu)圖書二千元，校對(duì)、裝訂費(fèi)用四百元，共四千元。其預(yù)籌而未設(shè)者:兒童閱覽室、婦女閱覽室，并置巡回書庫(kù)”。這樣，張謇終于實(shí)現(xiàn)了建立一所真正意義上的和頗具規(guī)模的圖書館之夙愿。

　　在圖書館館舍設(shè)計(jì)方面，張謇請(qǐng)來(lái)中國(guó)當(dāng)時(shí)著名的建筑設(shè)計(jì)師孫支夏，請(qǐng)他按照自己的構(gòu)想進(jìn)行設(shè)計(jì)。設(shè)計(jì)稿出來(lái)以后，張謇還多次提出修改意見(jiàn)，如今在南通博物苑里還保存有寫著張謇修改意見(jiàn)的圖書館設(shè)計(jì)藍(lán)圖，這已經(jīng)成為一份難得的歷史文獻(xiàn)。

　　創(chuàng)建之初，南通圖書館有藏書10萬(wàn)卷，幾年以后即增至14萬(wàn)卷。這些藏書現(xiàn)大多藏于南通市圖書館古籍部，很多書中有張謇的藏書印章和他的親筆題詞。為了追求藏書建設(shè)的高規(guī)格，張謇采取了征集、抄錄、影印等手段。征集分為捐贈(zèng)與有償收購(gòu)兩種。如上文所述，張謇除自己捐贈(zèng)“八萬(wàn)卷強(qiáng)”之外，還收到“他人贈(zèng)者五萬(wàn)卷弱”。對(duì)于征集不來(lái)的圖書，張謇不惜花費(fèi)人工物力抄錄和影印，甚至還多次請(qǐng)托駐英使節(jié)設(shè)法影印流失海外的《永樂(lè)大典》。他在給駐英使館首席秘書顧錫爵的信中這樣說(shuō):“《永樂(lè)大典》自庚申之變，沒(méi)入英吉利者近千本，在其博物苑中，以為武功之記，此中國(guó)之大恥，而故籍之所關(guān)。往時(shí)劉某出使，有為言之，或易以他書，或就抄其副。劉固俗人，不足辦此，今廷卿所主，儻其人乎？”

　　張謇還非常重視圖書的編目工作。他曾兩次聘請(qǐng)專門學(xué)者進(jìn)行編目。他在邀請(qǐng)陳星函先生為其編目的信中說(shuō):“素仰先生有金版六韜之博，辯己三亥豕之訛。敬請(qǐng)編訂本館第二次目錄……謹(jǐn)奉潤(rùn)敬鍛幣五百元……”言辭之間，盡顯推重之情。

　　另外，在當(dāng)年轟動(dòng)一時(shí)的莫里遜藏書出售事件中，張謇也曾做出積極努力，想花重金將這批典籍留存在國(guó)內(nèi)。但終于敵不過(guò)日本三菱財(cái)閥巨頭巖崎久彌，使這些珍貴文獻(xiàn)流落東洋。