突厥的军队则以骑兵为主，熟悉北疆的地形，机动性极强。当隋军抵达长城之外的旷野时，西突厥军队早已严阵以待，他们利用骑兵的优势，不断对隋军发起袭扰，白天佯攻，夜晚偷袭，让隋军疲于应对。隋军虽然装备精良，但在机动性上远不如西突厥骑兵，多次进攻都被对方化解，陷入了僵持状态。更糟糕的是，隋军的粮草运输线被西突厥骑兵切断，军中粮草日益短缺，士兵们只能靠宰杀战马充饥，士气急剧低落。
在僵持了一个多月后，薛世雄深知继续作战只会导致更大的损失，于是决定与西突厥和谈。然而，西突厥方面却提出了苛刻的条件，要求隋朝割让长城以南的部分土地，并每年向其缴纳贡赋。隋炀帝得知后，坚决拒绝了西突厥的条件，下令薛世雄继续进攻。但此时的隋军早已军心涣散，根本无法组织起有效的进攻，反而在西突厥的反击中损失惨重。最终，薛世雄不得不率领残兵败将撤回长城以内，此次北征以隋朝的失败告终。据统计，隋军在此次战役中损失了近十万士兵，耗费的粮草与军械不计其数，不仅未能彰显军威，反而让西突厥看清了隋朝的虚弱，此后，西突厥对隋朝边境的袭扰愈发频繁。