黎阳地处黄河下游北岸，为永济渠与黄河交汇处，北通幽燕，南达江淮，西接洛阳，东连齐鲁，自古便是水陆要冲。
宇文化及选择此路，本欲先取黎阳仓——此乃隋朝三大官仓之一，储粮数百万石，足以供其十万大军数月之用——再西进洛阳。
李密深谙用兵之道，早在出兵之前，便已派遣细作混入宇文化及军中，将其底细摸得一清二楚：宇文化及所部，皆是从扬州远征而来，自江南至中原，水陆兼程数千里，士卒疲惫，马匹羸瘦，且沿途多为瓦岗军控制区，后勤补给线漫长脆弱，军粮储备早已濒临枯竭。其将士多为关中人氏，久戍江南，思乡心切，本就只想着回家。兼之宇文化及弑君之后，声名狼藉，军中多有窃议，士气低迷。
这支军队看似庞大，实则外强中干，只求速战速决，凭借一时锐气取胜，绝无力持久。
针对敌军的致命弱点，李密定下"以静制动、以逸待劳"的战术方针。他下令大军扼守黎阳周边的黄河渡口与陆路要道，深挖壕沟、高筑营垒，多设疑兵，坚守不出，活活拖垮敌军。又遣偏师骚扰其粮道，焚其舟船，使其求战不得、欲退不能，最终不战自溃。
战略既定，李密第一时间派遣徐茂公率领麾下最精锐的骑兵五千、步卒一万，星夜赶赴前线，牢牢守卫战略要地仓城。
黎阳仓城位于黎阳县城东南，依大伾山而建，城墙高厚，仓廪林立，为中原最重要的粮食储备地，也是宇文化及北上必夺的补给据点。
徐茂公至仓城后，即刻巡视城防，增修工事，将城中存粮尽数转移至隐秘处，又于城墙四周遍设弩机、投石车，储备火箭、火油，严阵以待。
宇文化及得知仓城被占，大惊失色——他军中存粮已不足半月，若不能速取黎阳仓，大军必溃。当即下令全军猛攻仓城，亲率禁军精锐为后督，斩退缩者以徇。其军如潮水般涌向城墙，云梯林立，冲车撞击，箭如雨下，喊杀声震天动地。
然而徐茂公指挥若定，待敌军近城，一声令下，弩机齐发，箭如飞蝗，冲车未近城门便被火油焚毁；云梯搭上城墙，守军便以长钩推拒，滚木礌石倾泻而下，砸得敌军头破血流。接连数日，宇文化及亲自督战，发动十余次猛攻，伤亡逾万，仓城却岿然不动，瓦岗军凭借坚固城防与充足储备，让这支昔日炀帝倚为长城的禁军寸步难行。