前期设董事部和执行部，第一任董事部部长为梁启超，书记为袁同礼；执行部部长为戴志骞，副部长杜定友、何日章。1937年董事部更名监事会。执行部改名为理事会，袁同礼任理事长(1937～1944)。

　　该协会设有分类、编目、索引、出版、图书馆教育、图书馆建筑等专门委员会。协会会员有机构会员、个人会员、赞助会员和名誉会员。

　　该协会曾先后于1929年(南京)、1933年(北平)、1936年(青岛)、1938年(重庆)、1942年(重庆)和1945年(重庆)召开了6次年会。编辑出版有《图书馆学季刊》(1926～1937)、《中华图书馆协会会报》( 1925～1948)两种刊物，并出版了目录学丛书等图书、关于中国图书馆概况的报告以及图书馆学专题论文集等。该协会曾对全国、各省、重要城市和中学图书馆的发展情况以及书店、新书、期刊、善本、雕版印刷文献的版片等进行过调查。

　　1925年与国立东南大学、中华职业教育社等合办了一期暑期学校，培养图书馆专业人员。它是国际图书馆协会和机构联合会 (IFLA) 的发起单位之一，曾派人参加了该会1927年的发起大会，1929年和1936年两次参加了国际图书馆及目录学会议，并派代表赴英、美等国参加图书馆协会年会。中华图书馆协会还曾组织过国际图书交换工作。

　　1949年中华人民共和国建立前夕，中华图书馆协会无形解散。