1926年7月，北伐战争爆发。12月，刘伯承与朱德等人组织领导了泸顺起义，起兵讨伐四川军阀刘湘。起义部队被武汉国民政府编为国民革命军暂编第15军，刘伯承就任军长。1927年3月，刘湘军队分路围攻泸州，刘伯承率部进行了167天英勇的守卫战。
1927年8月，刘伯承参加了南昌起义。
1927年11月，刘伯承被派往苏联先进高级步兵学校学习，后升入伏龙芝军事学院深造。1930年8月回国后任中央军委参谋长兼长江局军委书记。1932年1月任红军学校校长兼政委，6月兼任瑞金卫戍司令。10月，刘伯承升任中央军委总参谋长，协助朱德、周恩来指挥第四、第五次反“围剿”。后因与共产国际军事顾问李德意见不合，被贬任为红5军团参谋长。
这是刘伯承司令员在欢迎新战士大会上讲话
1934年12月，刘伯承再次任军委总参谋长并兼任中央纵队司令员，指挥先遣部队强渡乌江、智取遵义、抢夺娄山关。1935年5月，刘伯承任红军先遣队司令员。1937年，“七七”事变后，红军改编为国民革命军第八路军。刘伯承任第129师师长。抗战伊始，他便运用灵活机动的战略战术，组织所部夜袭阳明堡机场，并在娘子关以南的七亘村伏击战中，仅以伤亡30余人的代价，歼日军400余人。1938年3月，刘伯承运用“攻其所必救，歼其救者”的兵法，先攻黎阳，再在神头岭将日军救援部队1500余人伏击歼灭。日军称这次战斗是“支那第一流的游击战术”。接着，刘伯承又率部取得了响堂铺伏击战的胜利，歼敌400余人。不久，日军调集重兵对129师发起九路围攻。刘伯承审时度势，集中兵力攻其薄弱的一路，在长乐村歼灭日军第117联队2200人，粉碎了敌九路围攻。并将敌后抗战由太行山向冀南平原和鲁西北发展，创建了晋冀鲁豫抗日根据地。