胡林翼的军事思想根植于中国传统兵学土壤之中，也切合当时战争的实际，对湘军建设及作战都有非常重要的影响；最关键的是胡林翼致力于教育，主讲长沙城南书院，创办湖南益阳箴言书院，咸丰年间，他从自己的俸禄中出资购置图书，后人也有增补。据同治五年刊行的《箴言书院志》，书院藏书达1337种，36261卷， 其中经书444种7048卷；史书232种，16320卷，碑贴195种117卷。把他的全部藏书都运到箴言书院，供师生阅读。对于湘楚人才的教育作出巨大的贡献。
据说胡林翼的母亲汤氏怀着他时，曾经梦到有五色鸟聚集在屋后的丛中，张开双翼飞翔鸣叫，群鸟跟从，啄咬林中的芝草。因为这一祥瑞，所以家人给他取名为林翼，字润芝。
1945年，毛泽东同志在与著名作家张恨水的谈话中解释了“润芝”这个名字的来源。他说这个名字是他在湖南第一师范学校时，由老师杨怀中先生取的。杨先生原先给他《胡文忠公全集》要他学习胡林翼，后来觉得胡林翼值得学习，而胡林翼字为“润芝”，因此便采用了这个名字。