南昌起义后，由中央军事政治学校武汉分校改编的教导团２０００多人从武汉乘船东下，准备赶往南昌。但船一到达九江，就被张发奎部缴械扣留，被收编为叶剑英所在的国民革命军第４军的军官教导团。
江西省委党史办党史专家万建强说，为了保存这支由共产党掌握的革命力量，叶剑英利用自己同张发奎等人的老交情，毛遂自荐当了教导团团长。这样既应付了张发奎，又使教导团大部分力量约２０００人得以保存。
１９２７年１１月，张发奎抽调主力迎战李济深，广州城内只剩不到７０００兵力。广州起义指挥部任命叶挺为起义军事总指挥、叶剑英为副总指挥。１２月１１日，中共在广州发动起义，叶剑英竭力保护下来的第４军军官教导团，成了这次起义的骨干力量。