杨存中熟读兵法富于心计多次立下战功，得宋高宗亲自提拔委以重任

张存中根据形势多次作出正确判断，却在取得胜利后不忍杀死俘虏
绍兴元年（1131年），随从张俊讨伐李成。从将计议，大多主张分道前进，杨存中说：“敌势如此，分兵力量就会削弱，加上诸将职位相同，没有招讨使督促，必然不能互相协同。”张俊采纳了他的意见。整军到豫章，杨存中率兵数千人，首先在玉隆观击败敌众，追到筠州。敌人骁将率众十万前来支援，夹河而阵。杨存中对张俊说：“敌众我寡，攻击敌人应使用奇兵，愿意率骑隶属，公以步兵居前。”张俊听从了他的意见。杨存中夜里衔枚渡筠河，出西山，急驰而下攻击敌人，张俊以步兵夹攻，俘敌八千人。众将夜见杨存中说：“战斗没有停止，降卒太多，突然发生叛乱，怎么办？非将他们全部歼灭不可。”杨存中说：“我不忍杀死投降的敌人。”众将转告张俊，竟然在夜晚全部坑杀俘虏。乘胜追到九江，李成于是逃走。迁任宣州观察使。

张存中被进任神武中军统制，得到张俊的挽留想要其继续留在军中

绍兴二年（1132年）春，杨存中进任神武中军统制，宰相吕颐浩从袖中拿出敕令交给杨存中。张俊奏请将杨存中留在军中，宋高宗说：“宿卫部队缺乏将帅，我所挑选的，不能改变。”杨存中也坚决推辞，并且说：“神武诸将如韩世忠、张俊，皆贵拥旄钺，名望至重，像我这样微不足道的人，一旦地位与他们相抗衡，实在难以自安。”宋高宗不答应，派宦官宣押，杨存中才就职视事。兼提举宿卫亲兵。当时中军士卒不满五千人，疲弱老病的占一半。杨存中请求将神武士卒借调到其他部队的拨回军中，从此军政渐渐得到治理。 
绍兴三年（1133年），严州妖贼缪罗占据白马源，杀死官员，杨存中率兵讨平。除带御器械，加保信军承宣使，权发遣鄜延路马步军副总管。