咸丰十一年（1861年）夏天，李鸿章奉命返回安徽招募淮勇。凭借之前在庐州组织团练的经验和在当地的人脉资源，李鸿章迅速得到了张树声、周盛波、潘鼎新、刘铭传等人的支持。这些人大多是皖籍地主武装的头领，与李鸿章有着直接或间接的关系，因此淮军的组建工作进展得非常顺利。
同治元年（1862年）春节后，淮军最早的四个营——“树”、“铭”、“鼎”、“庆”营陆续集结于安庆进行训练。这四个营分别由张树声、刘铭传、潘鼎新和吴长庆领导。与此同时，李鸿章还命令自己的弟弟李鹤章返回合肥招募旧部，包括内亲李胜、张绍棠，昔日好友王学懋，以及父亲李文安的旧部吴毓兰、吴毓芬等人。
曾国藩对这支新军极为重视，亲自召见各营将领，并为淮军订立了详细的营制和营规。为了增强淮军的实力，曾国藩从湘军系统中调拨了部分部队，其中包括“春”字营（张遇春）、“济”字营（李济元），太平军降将程学启率领的“开”字两营，以及湖南新勇“林”字两营（滕嗣林、滕嗣武）。此外，还有“熊”字营（陈飞熊）和“垣”字营（马先槐），以及曾国藩赠送的亲兵两营（韩正国、周良才）。
通过这些增援，淮军初步形成了14个营的规模，每个营配备正勇505人，长夫180人，总计685人。曾国藩亲自检阅了已经集结在安庆的淮军各营，并宣布淮军建立。随后，上海的士绅筹集了18万两白银，租用了7艘英国商船，将淮军分批运往上海。由于“济”字营需要留在池州，所以实际运抵上海的淮军共有13营，约9000人。
1862年三月十日，李鸿章随首批淮军抵达上海。不久之后，经曾国藩推荐，李鸿章被任命为江苏巡抚，并一度暂署办理通商事务大臣。李鸿章受任之时，上海正处于极为严峻的局势之中。太平军正在发动第二次大规模进攻，上海的安全受到严重威胁。面对这样的局面，李鸿章牢记曾国藩的教诲：“以练兵学战为性命根本，吏治洋务皆置后图。”
在上海，由当地士绅组建的“中外会防局”主要依靠外国雇佣军来抵御太平军，对淮军并不抱有很大希望。面对外界的轻视，李鸿章激励将士们说：“军贵能战，待吾破敌慑之。”淮军果然不负众望，在当年下半年连续进行了虹桥、北新泾和四江口三次激烈的战斗。李鸿章亲临前线指挥，最终成功守住了上海，赢得了中外人士的尊重和认可。
淮军抵达上海后，李鸿章迅速采取了一系列措施来提升军队的战斗力。淮军到沪未满一年，便全面改革了原有的湘军制度，转而模仿西方军队的编制和训练方法，装备了先进的洋枪洋炮。李鸿章还聘请了外国教练来训练士兵，这些改革极大地提升了淮军的战斗力。
为了确保淮军能够与外国雇佣军协同作战，李鸿章与英国舰队司令何伯以及陆军提督士迪佛立订立了会商攻打太平军的协议。根据协议，李鸿章派出6000人的淮军与外军共同作战，其中3000人进驻南桥，另外3000人则由英国军官进行严格训练。协议还规定，作战中夺取的军需物资应归淮军所有，双方在军事调动时必须互相通知，并共享军事情报。
1863年春天，李鸿章与士迪佛立签订了《会同管带常胜军条约十六款》，明确了常胜军及其统带官由李鸿章指挥。在常胜军经过整顿后，李鸿章与新的常胜军统领查理·乔治·戈登建立了良好的关系，戈登很快成为了李鸿章的朋友和支持者。
在上海初步站稳脚跟后，李鸿章开始着手从多个方面巩固自己的地位。首先是在人事安排上，他罢免了一批媚外过甚的买办官吏，如杨坊等，转而起用了一批务实肯干的洋务派官员，如郭嵩焘、丁日昌等。同时，李鸿章建立了不同于湘军幕府的淮军幕府，以务实干练、通晓洋务为主要标准选拔幕僚。
在军制改革方面，李鸿章深刻认识到西洋军械在实战中的巨大优势，因此决定“虚心忍辱，学得洋人一二秘法”。淮军不仅装备了洋枪洋炮，还引入了西方的军事训练体系，这使得淮军在短时间内战斗力大幅提升。在不到半年的时间里，淮军迅速扩充至50个营头，约2万人，至攻打天京前夕，淮军总兵力已达7万余人。
在军费筹措方面，李鸿章实施了“关厘分途，以厘济饷”的政策，即通过关税支付常胜军、中外合防局及镇江防军的军需开支，而通过厘金（商业税）来支持淮军。随着军事进展和湘淮军力的壮大，厘卡也层层增设，确保了军饷来源。不过，这种“征粮收税”“捐厘助饷”的做法，虽然解决了军费问题，但也导致了“怨黩繁兴”“民穷财尽”的社会问题。
在对外关系处理上，李鸿章展示了出色的外交手腕。例如，苏州杀降事件引发戈登常胜军闹事时，李鸿章利用英国人赫德和士绅潘曾玮作为说客，巧妙平息了事态，并最终解散了常胜军。
本小章还未完，请点击下一页继续阅读后面精彩内容！