长沙市图书馆始建于60年代初。1960年7月，省立中山图书馆（即现湖南图书馆）将其设在长沙市青少年宫内的图书外借处和青少年阅览室以及潮宗街的少儿阅览室下放给长沙市。长沙市将其与市文化馆的图书室、少儿阅览室合并，建立独立的长沙市图书馆。10月1日向市民开放。当时藏书5.4万册，报刊101种，1960年11月，该馆由青少年宫内迁到中山西路104号（先锋厅），馆舍面积83平方米。文革前该馆藏书达到7万册；工作人员8名。文革期间，该馆遭受摧残与破坏，工作人员除一人留守外，全部下放农村劳动，藏书损失惨重，名存实亡。1971年4月，长沙市革命委员会将该馆迁到湘春路市工人文化宫内，与市文化馆、市工人文化宫合并，成立“长沙市工农兵文艺创作室”，下设图书组于 1972年元旦恢复对社会开放。1975年9月，该馆再次恢复建制，借用市工人文化宫场地开展业务工作。

1979年开始，该馆争取省市政府先后拨款100余万元，在市内名胜定王台兴建新馆。我国第一所公共图书馆——湖南图书馆兼教育博物馆即诞生于此，1912年秋至1913年春，19岁的毛泽东在此度过半年难忘的自学生活。该馆第一期工程——建筑面积2641平方米的阅览大楼于1985年6月竣工，1986年7月1日正式开放。新阅览楼的落成，标志着该馆进人了新的发展时期。

该馆位于芙蓉区定王台37号，与定王台书市、湖南图书城毗邻，交通便利，占地面积 5.7亩，馆舍面积 4182平方米，藏书36万余册，设采编部、外借部、阅览部、参考咨询部、研究辅导部和办公室，开辟社科外借处、自科外借处、报刊阅览室、少儿阅览室、工具书查阅室、过刊室、基本书库、特藏书库（地方文献查阅室）、鹿儿岛文库、自学室、市民生活文献借阅室等11个服务窗口，共有阅览座席350个，书架单层总长度9852米，添置了汽车、电子计算机、柜式空调、四通打字机、复印机、音响、电视机等现代化设备。

该馆现有正式职工48人，其中在职职工36人，在职职工中有大专以上文化的24人，研究馆员1人，馆员13人，年事业经费62万元，购书经费12万元，年新书人藏4000余册，订报刊500余种，发放借书证9100个，年接待读者12万人次，外借册次13. 2万册次。

该馆根据“以用促藏”的原则，有计划有重点地补充藏书，入藏图书以中文新书为主，注重长沙地方文献的收藏和利用，每年购书经费的3—5％用于征集购买地方文献，专架陈列，专人管理，设置专门目录。1983年和1998年两次请求市委、市政府下发《关于征集地方书刊资料的通知》,要求长沙市内各单位向该馆呈缴、赠送本单位编辑、出版、印刷的书刊资料。1990年，该馆设立“湘籍著名作家、学者、专家、教授著作专柜”，广泛收集湘籍著名人士的著作、手稿、藏书等，该馆还陆续申请专款添购了《四库全书》、《古今图书集成》、《丛书集成初编》、《丛书集成续编》、《孔子文化大全》、《古本小说集成》、《民国丛书》、《中华文化通志》等大型历史文化典籍，收藏各类工具书4000余种。该馆受市政府委托，担负与日本国鹿儿岛市进行书刊交换的任务，开辟鹿儿岛文库，专室收藏鹿儿岛市赠送长沙市的日文书刊6500余册，提供给长沙市民阅览。通过长期努力，该馆藏书日趋丰富，已初步形成具有一定特色的藏书体系。

 该馆图书依据《中图法》标引，依据《普通图书著录规则》著录，期刊依据《中图法期刊分类表》标引，依据《连续出版物著录规则》著录。普通图书、期刊、古籍、地方文献都设立公务、读者目录。读者目录设分类和题名目录，古籍编印了书本式目录，报刊设题名目录，目录有专人管理，图书“五防”措施得力，古籍入樟木箱妥善保管。

1997年底开始使用计算机，已建成馆藏机读书目数据库，开通采访、编目两个子系统，正朝着图书馆现代化目标迈进。

该馆努力强化服务意识，想方设法扩大服务范围，开展免证阅览、代借代还、预约借书、送书送证上门、邮寄借书、馆际互借等一系列方便读者的服务措施，双休日不闭馆，向读者敞开发放借书证。为了倡导市民读书，吸引更多的市民群众走进图书馆，该馆1999年开辟市民生活文献借阅室。

该馆注重为市党政机关决策服务和生产科研服务，开辟了参考咨询部，开展定题服务，编制专题书目索引，开展文献代查代译等，从1984年开始编印《市政参考》，汇集国内外城市建设管理、菜蓝子工程、环境保护等方面的最新经验和信息提供给市委、市人大、市政府、市政协等4大家的主要领导，为领导机关决策提供信息参考。根据该市生产科研的需要，编制《农村致富信息》和《信息资料》等专题实用技术资料等，提供给乡镇领导、农村专业户和相关生产科研单位、专业技术人员。

在搞好阵地服务的同时，该馆主动走出馆门，长期坚持开展送书下乡、到工厂、到军营、到学校，开辟馆外流通服务点9个。该馆从1986年开始，一直坚持每年为海军“长沙舰”邮寄赠书、送书，累计6000余册。1995年，派出6名业务骨干到舰上建立起“长沙舰图书室”，被官兵们亲切誉为“精神文明航标灯”，在南海舰队产生了广泛的“长沙舰”效应，在“长沙舰”命名10周年之际，“长沙舰”官兵特向该馆赠送“十年赠书，誉满南疆”的锦旗。

该馆以培养社会主义“四有新人”为己任，充分利用馆藏文献资料组织开展多种形式的群众性读书活动，从1986年新馆开馆至今，该馆每年都要组织大规模的群众读书活动，如 80年代开展的“红领巾读书读报奖章”活动，90年代开展的“万名青少年游览智慧宫采摘智慧果”活动。尤其是1996年以来，该馆连续三年组织声势浩大的“三百万读书活动”，即“百万农民读书活动”、“百万市民读书活动”和“百万市民捐书活动”，向社会推荐优秀图书，组织读书经验交流、读书讲演、知识竞赛、征文等系列活动，数百万群众踊跃参加。组织评选长沙市首届十大藏书家、百户优秀藏书户、百户书香家庭，产生了广泛而深远的影响。1998年开展的“百万市民捐书活动”，募集图书35万册、现金13万元，促进了农村图书馆事业的发展。1998年6月4日，新华社每日电讯以“长沙读书热，星城书墨香”为题报道了该市广泛开展的群众性读书活动；1998年，该馆作为全省公共图书馆系统的唯一代表，出席了全国知识工程领导小组在南宁召开的全国知识工程经验交流会，并在大会上介绍经验。

该馆自成立以来，充分发挥中心馆的作用，加强对全市工矿、学校、街道和农村图书馆（室）的业务辅导工作，为基层培训图书管理员、指导基层图书馆（室）开展各项业务活动，并将基层图书馆（室）按地区或系统组织起来，成立协作网片，开展工作经验交流、馆际互体编印联合书目以及业务研究等多项协作协调活动。在该馆的积极指导推动下，长沙市基层图书馆（室）发展较大，据1998年底统计，全市各类型基层图书馆（室）2000余个，有专职或兼职管理人员5000余人。该馆扶植发展乡镇、街道万册图书馆50个，科图示范户304户，农民读书活动小组176人。该馆与所属县图书馆联合编印《长沙市公共图书馆种植业、养殖业书籍联合目录》、《毛泽东著作版本联合目录》、《刘少奇著作版本联合目录》等。该馆十分重视职工的业务学习和学术理论研究，每2年举办一次全市公共图书馆的学术论文研讨会，并组织评奖。1994年以来，该馆共撰写学术理论文章60篇，25篇在省学会和全市公共图书馆学术论文研讨会上交流和获奖，近20篇在专业刊物发表，在1996年省文化厅组织的全省公共图书馆读者知识竞赛中，该馆获得团体一等奖、个人笔试一、三等奖；在全省公共图书馆为两个文明建设优秀服务成果评奖中，该馆荣获一等奖2项，二等奖1项，三等奖2项，均名列全省地市馆首位。

自1984年以来，该馆14次荣获“长沙市双文明建设先进单位”称号，自1986年以来，连续12年被评为省市文明卫生单位，1989年被评为长沙市第十五届劳模大会先进单位和支农先进单位，1989年、1992年、1995年、1998年连续四届被评为省文明图书馆，在1998年全国第二届公共图书馆评估定级中，被评定为二级馆。