廖耀湘自小便接受现代教育，读新学堂，在校期间成绩优异，最终选择弃笔从戎

廖耀湘家境小康，其父认为出洋留学才是正道，让他接受现代教育

廖耀湘，1906年4月12日生于湖南邵阳县北乡酿溪镇土桥村，其家道算是小康境地。祖父艺圃公，是一位私塾先生，曾于乡里设馆授徒。父亲半耕半读。耀湘（耀为字辈名）这个名字显然寄托着祖父和父亲望其光大门楣、名耀三湘的期望，而他的表字“建楚”也正是名的引申，耀湘必定有建楚之才。
六岁时，他在祖父的指导下，开蒙读书，念祖祖辈辈传下来的“四书”、“五经”，等他略知经书精义时，清廷已经逊位几年了，由于有一帮三湘英才参与创建民国，此地开风气之先，有着远见的廖父觉得科举早已废除，仅仅凭读古书是很难有出息的，读新学堂，出洋留学才是成才正道。1918年，受过六年传统私塾教育的廖耀湘考进了县立高等小学，接受现代教育。

廖耀湘无心报考大学，而是选择弃笔从戎，报考军校

1920年冬天，廖耀湘从县立高小毕业，成绩优异的他考入了长沙私立岳云中学，这是所完全按着现代教育模式设立的新式中学。和闭塞保守的邵阳相比，长沙城不但是通衢大邑，而且各种思想激荡。1925年夏，19岁的廖耀湘从岳云中学毕业，在当时算文化程度较高的知识分子，北上报考大学非他所愿，而且乡下那个小康之家，也很难供得起一个大学生，于是选择了南下报考黄埔军校。
为供廖耀湘在长沙五年的学习，全家几乎竭尽了财力，连供他去广州考试的路费都没有筹集到，他错过了黄埔五期的招生，不得已只好就近从军，解决吃饭问题，便进了赵恒惕属下的湖南陆军第三师叶开鑫的部队，从列兵干起。