在船山书院的办学历程中，影响最大的当属湘潭王闿运。王闿运1891年至1915年任船山书院山长。王氏为咸丰举人，晚清一代硕学鸿儒，清末授翰林院检讨，后加侍讲衔；民国初年任国史馆馆长。先后主讲成都尊经、长沙思贤、衡阳船山等书院。所著除经子笺注外，有《湘军志》《湘绮楼诗文集》《湘绮楼日记》等；殁后其门人辑《湘绮楼全书》二十种二百四十六卷，而佚稿仍多。彭玉麟十分钦佩老友王闿运的学问人品，多次邀请他执掌船山书院，只是因故未能实现。后来王闿运在长沙的住宅湘绮楼失火，彭玉麟又特意在船山书院内建立黄绮楼，以候湘绮先生光临。
直到光绪十七年（1891年）二月，六十高龄的王闿运才携子女来到衡州，主讲船山书院。遗憾的是彭玉麟已经于前一年去世，王闿运的心情十分悲凉。这一年所作的七夕诗云：“空洲无路复无津，独抱秋心坐向晨。输与灵仙情不老，白头簪奈又何人。”王闿运刚到船山书院，景色萧索，眼见的是“门斗斋夫村陋，不成局面”，且“行李虽富，钱米俱无，明早便无食矣”，完全不能与昔日成都尊经书院的盛况相比。但他时时念及亡友的殷殷重托，并不灰心。初到东洲即撰联云：
海疆归日启文场，须知回雁传经，南岳万年扶正统。石鼓宗风承宋派，更与重华敷衽，成均九奏协箫韶。可见其培养湖湘弟子，经营书院的决心。
基于执掌尊经书院的丰富经验，王闿运在船山书院实行了诸多改制。教授经史辞章，并且“分经授徒”。今存《船山书院课艺初集》八卷，收录院生课作九十篇，都是由其亲自批阅的。他还注重学风整饬，实行降等制度，月课成绩差者由正课生降到附课生。对于屡犯学规的院生也毫不留情，毅然将其驱逐出院。值得一提的是，王闿运育人不重门第，惟重才学，如人称“王门四匠”的僧人释敬安、铁匠张登寿、木匠齐白石、铜匠曾招吉，都曾受业于他门下。
因为王闿运的到来，船山书院名声大振，不但省内岳麓、城南、渌江等书院的高才学子纷纷南下，就连邻省江西、广东、福建的莘莘学子也负笈前来，“海内执经问学者踵相接”（《衡阳教育概况》第六篇），一时有“学在船山”之誉，因此成为晚清十大书院之一。
王闿运在船山书院培养的人才广布政治界、文艺界、教育界、宗教界。政治界的有吕翼文、李馥、雷飞鹏、杨度、刘揆一、夏寿田、颜楷、向燊、程崇信、梁镇中、周逸。文艺界的有齐白石、管锄非、马宗霍、杨钧、陈兆奎、杨庄、周大荒。教育界的有蒋啸青、胡元倓、刘豢龙、蔡人龙、唐牧六等。
