提到七十四军，其实更多的想到的是张灵甫，想到在年5月16日，张灵甫连同整个师在内全部都被我军歼灭，也造就了我军辉煌的历史，为了对付张灵甫，对付七十四军，当时我军集中了九个纵队，其中5个纵队用来打援，而4个纵队用来围歼张灵甫，可见七十四军之强悍。
七十四军发展的历程中，其实都离不开一个字“打“，七十四军是打出来的，作为五大主力之中，七十四军是第二支成立的队伍，仅次于十八军，但是相较于十八军建军于20世纪30年代初，那么七十四军就要慢很多，它是抗战爆发以后于年8月在武汉成立的，而他的第一任军长则是黄埔一期毕业的俞济时。
俞济时早年深得蒋介石信任，作为黄埔军校的嫡系将领，蒋介石对于这位学生的重视程度不言而喻，毕业后就在蒋介石身边担任侍卫，此后历任侍卫大队排长、连长，一直升到了警卫2师师长，应该这么说，除了少数几个保定军校，如陈诚、薛岳等等，俞济时是黄埔毕业生中，少数几个晋升飞快能够达到与这些将领齐平的将领，其中还包括胡宗南。
74军建军指出，组建的基础部队是51师和58师，是由于淞沪会战爆发以后，国民党军多数都是以师为单位，而且隶属于不同的军阀，指挥起来颇为不便，因此将几个师捏合起来，形成一个较大的军事单位，当时组建成军的有不少部队，其中包括七十四军，由此可见，在组建之初，蒋介石也谈不上如何重视这支部队。
其中俞济时是58师师长，这支部队是俞济时在年亲自整编而成的，应该说是俞济时的嫡系力量，至少对自己的力量，俞济时应该算是用心，不过在组建之初，也是由杂牌拼合而成的，其下属两个旅，旅原来是浙江保安团，旅为直鲁军陈耀汉所部，中德合作以后，58师后来被列入整理师行列，虽然不如此前俞济时所在的88师，但在全国所属师中算是装备最好的一支部队。
51师师长为王耀武，是以原来王耀武的补充第一旅，王耀武的军事素养，其实不用多说，这个补充一旅曾经在谭家桥战斗中，击败了红十军团，这个补充第一旅原先并不隶属于哪一支杂牌，而是由当时钱大军在南昌编练的六个补充团，这六个团后来被编为两个补充旅，王耀武即为补充一旅旅长。
由于受到何应钦的特别照顾，补充一旅并没有划归野战部队，而是独立作战，这也为后来独立建立部队打下基础。实际上补充部队多半都是为了补充原有野战部队的战场损失，但因为补充第一旅后来命运发生反转，年改编为新编11师，后来插入了陕西保安团一直部队，并直接授予58师的番号。
这两支部队在淞沪会战前都是一师两旅的编制，年直接合编为七十四军，这时候七十四军58师装备齐全，此前又为整理师，因此战斗力较强，51师相对较差，在抗战初期七十四军一度打的比较刻苦，但所幸主帅能力出众，最终这支部队并没有打残，而是越战越强，上高会战，七十四军击毙日军第34师团长岩永少将，日军第33师团遭到重创，被罗卓英誉为“战斗力量最强”。而美国顾问也认为“中国国军只有74军能打”的赞誉“。