然而令孙立人失望的是，国民政府并不想彻底击败日军。由于国民政府按兵不动，坐视不援，第十九路军伤亡日重。3月1日，日军开始全线总攻击，并在浏河登陆，中国军队被迫后撤。
蒋介石上台后，即请英国公使兰普森当调停人。经兰普森斡旋，中日双方于14日停止军事行动，于24日起进行停战谈判。5月5日，中日双方签订了《上海停战协定》。
淞沪之战不光彩地结束了。独立旅恢复了税警总团的建制，由于沪战中总队长王庚被日军捉去，放回后离队，宋子文乃以温应星为总队长，特科兵团改编为税警总团步兵第4团，孙立人任第4团团长。10月，孙立人率队由浙江嘉兴经上海回到驻地海州。他要把所带的第4团练就成一支精兵。
孙立人觉得第4团底子不错，第1营营长葛南杉、第2营营长唐守怡、第3营营长张在平，都是能干之将才；薪饷按中央军十足发给也不成问题；兵员亦多为招募和自动投效，武器均为外国进口，有捷克式七十九式步枪：法国哈其开斯气冷式机枪，法国八二迫击炮。
孙立人一生4次练兵，这次海州练兵是第一次。
孙立人对全团士兵训话道：“每一位士兵站着就是一座界碑，躺下就是一条战壕，而你们手中的武器就是你们的生命，要爱护、珍惜，人在，枪在；人亡，枪亡……”
孙立人以“管理严格、训练严格、人事公开、经济公开”为治军原则，号召全体官兵要做到“五要”，即：一要有铁一般的体力；二要有钢一般的毅力；三要有高尚的道德和敏慧的智力；四要有勇敢牺牲的精神和决心；五要有铁的纪律和艰苦朴素的作风。孙立人经常引用曾国藩、胡林翼的治兵语录并加以考核，作为自己练兵的指导思想。以“义勇忠诚”为团训。
孙立人还请父亲熙泽公作词，当年清华同学，已是音乐家的应尚能作曲，编了4团团歌教给全团官兵学唱。
三千将士一起齐心协力唱着句句实在的团歌，场面很是壮观。
孙立人在《建军理想》中写道：“我认为英美的长处，是自发自动活泼负责守法。他们的一个士兵，没有了官长的统率，仍然可以继续作战。他们的军营里，充满了活泼生气。他们的缺点就是吊儿郎当，粗枝大叶，官兵生活散漫随便。而中华士兵一向有的特长是英美等任何国家所赶不及的，那就是刻苦、耐劳、忍辱负重及牺牲精神。”因此，他主张把中华传统的军事教育方式同英美军校的教育方式结合起来，制订出适合自己部队需要的训练制度和方法，形成了一套与其他民国军队不同的训练操典，时称为“孙氏操典”。
当时中国军队的操典是以本陆军操典为蓝本的，重视战斗、投掷手榴弹、拼刺、筑城等战术科训练，占到了教育时间的50%以上，基本训练只占40%。而“孙氏操典”则最重视“基本训练”，主要是体能训练和各种兵器的熟练使用。孙将军主要对士兵进行步兵操典、射击技术、战斗演习、体能锻炼、夜行露营等训练。这些之中，尤为重要的又是体能训练、射击训练和战斗训练三项。
孙立人发挥部队的长处，专心训练，一天到晚都和部队泡在一起。税警团训练也采用德式，在部队中成立军官教导队，由财政部聘请德国军官多人任顾问，史坦因上尉率领顾问在教导队，并分赴各团队施行严格的德式军事训练。在海州南城营房中，一些新兵受不了严格训练，时有逃亡者。别的团抓到逃兵后，非打即杀，孙立人则不然，先在营房四周装象征性的铁丝网以防范，并以荣誉感去感化士兵。凡抓回的逃兵，便让穿上特制的背心，前后印上“逃兵”二字，命其打扫营房区域内的卫生，或面对大镜子自省，久之逃兵日少。
正是由于孙立人坚持去虚伪、去骄惰、重方法、求进步，要求每一个部队成员在日常生活中随时保持军人仪态，以内务整理来养成军人素质，以各种文化娱乐活动来解除训练疲劳，因此，税警第4团成了有强大战斗力的钢铁部队。