书院的创始人可以追溯到唐朝的李渤。个人认为，此李渤即苏轼名篇《石钟山记》中“盖笑俪道元之简，而李渤之陋也”中的那个。因为两人活动时间类似，活动地点类似，身份类似。
南唐升元四年（940），南唐政权在李渤隐居的地方建立学馆，称“庐山国学”，又称“白鹿国学”。这是一所与金陵（今南京）国子监相类似的高等学府。北宋初年，江州的乡贤明起等，在白鹿洞办起了书院，“白鹿洞书院”之名从此始，但不久即废。直到著名理学家朱熹重修书院之后，白鹿洞书院才扬名国内。朱熹不仅重修了白鹿洞书院，而且还建立了严格的书院规章制度。
《白鹿洞书院教条》不但体现了朱熹以“格物、致知、诚意、正心、修身、齐家、治国、平天下”等一套儒家经典为基础的教育思想，而且成为南宋以后中国封建社会七百年书院办学的样式，也是教育史上最早的教育规章制度之一。
自朱熹之后，白鹿洞书院“一时文风士习之盛济济焉，彬彬焉”它与岳麓书院一样，成为宋代传习理学的重要基地。
元代末年，白鹿洞书院被毁于战火。明代最早的一次维修为正统元年（1436），以后还有成化、弘治、嘉靖、万历年间的维修。进入清代，白鹿洞书院仍有多次维修，办学不断。19世纪末期，我国的政治、经济发生急剧的变化，出现了教育改革的热潮。光绪二十四年（1898）年清帝下令变法，改书院为学堂。白鹿洞书院于光绪二十九年停办，洞田归南康府（今星子）中学堂管理。宣统二年（1910），白鹿洞书院改为江西高等林业学堂。国民党时期，蒋介石准备要南昌中正大学接管白鹿洞书院，但未实现。新中国成立后，政府采取一系列措施对白鹿洞书院进行保护和维修。1959年列为江西省文物保护单位；1979年成立庐山白鹿洞文物管理所；1988年公布为全国重点文物保护单位和国家二级自然保护区，同年设置作为学术研究机构的白鹿洞书院建置；1990年成立庐山白鹿洞书院管理委员会。现在，白鹿洞书院已形成集文物管理、教学、学术研究、旅游接待、林园建设五位一体的综合管理体制。
1928年，胡适来到白鹿洞书院，并对其赞不绝口。胡适盛赞白鹿洞有两个原因，一是“白鹿洞书院是最早的书院，是我国书院的‘四大祀宗’之一”；二是朱熹亲定的《白鹿洞规》“简要明白，遂成为后世七百年的教育宗旨。” 在他的《庐山游记》中，他有一段著名的论断：“庐山有三处史迹代表三大趋势：
（一）慧远的东林，代表中国“佛教化”与佛教“中国化”的大趋势。
（二）白鹿洞，代表中国近代七百年的宋学大趋势。
（三）牯岭，代表西方文化侵入中国的大趋势。
1927年大革命失败后，刘少奇同志曾由武汉到达庐山白鹿洞书院，住在御书阁，从事革命活动。1959年8月刘少奇主席再次来到白鹿洞书院，旧地重游非常高兴，据当时陪同来的原九江专区专员朱冰同志回忆：“8月19日上午，我接通知乘车到庐山脚下威家公路边迎候少奇同志。会车后，一同沿公路南行”。“当时进书院没有公路，要走三、四里路。少奇同志坚持前往，他一下车，就顺手在随从人员手中接过一顶草帽，戴在头上，兴致勃勃地同大家一起走着山村田埂羊肠小道”。“进院时，大家都已汗流浃背。”走到藏书阁前，他若有所思地说：“我曾在这里住过，当时上面有不少书哩。”因阁楼维修，藏书已转移到星子县文化馆保存，不再保存在御书阁里。
