得到了李玄霸正在进攻马邑之时，李元吉也终于捕捉到了一丝战机，而后果断下令让晋阳城内的士卒悄悄搬开了堆在晋阳城北门的石头。
李元吉心中想的，自然是要在刘武周大军急着回马邑之际自己从城中给他们致命一击。
而这个机会只在三天后就来临，一如李元吉所料，刘武周得知李玄霸从雁门南下的消息之后，当即便急急如丧家之犬一般止住了南下的步伐，而后便看到十余万大军如奔丧一般往北而去。
定杨军才刚刚经过晋阳城，李元吉便亲帅两万精锐追了过去，准备与李玄霸的大军给定杨军来一个前后夹击。
得到李元吉出城的消息之后，苑君璋顿时心中一动。
“如今李元吉的两万大军追了出来，也就意味着他下令搬开了堵住城门口的大石，这是否意味着咱们可以再次强攻晋阳了？”
刘武周听到苑君璋的疑惑时，当即哈哈大笑起来，仿佛马邑城被李玄霸攻下都不算什么了。
只要拿下晋阳城，只要俘虏李元吉，失去雁门马邑又算得了什么呢？
听到苑君璋的分析之后，定杨军的几个领导当即安心下来，随后放慢了前往马邑的速度，并开始在路上布置伏兵。
李元吉火急火燎地追上定杨军后队时，敌人一触即溃，可当他命令加速追击扩大战果之后，马上就遭遇了宋金刚和尉迟恭率领的四万精锐的伏击。
有心算无心之下，李元吉所领的两万唐军很快就失去了一半，十余万定杨军也就此放弃马邑，一路追击着李元吉带领的近万残部往晋阳城而去。
李元吉败回晋阳城之后，不顾身后还有三四千唐军士卒尚未入城，竟悍然命令关闭了城门，这些没法入城的唐军士卒只能四散奔逃。
就在李元吉哆嗦着下令士卒重新把大石堵向城门之际，王宣带领的一千士卒终于在尉迟恭率领的弓箭手的掩护下到达了城门口。
随着一声地动山摇的巨响之后，晋阳城的北门轰然倒塌，门内十丈之地没有一个活口。
紧接着，尉迟恭率领的步卒顶着城内那些战战兢兢的士卒射出的零零落落的弓箭缓缓入城，当进入晋阳城的定杨军超过万人之后，大势便已确定下来。
刘武周第一次攻打晋阳时，包括军民在内的晋阳守军足有五六万人，但真正领军饷的不过三万而已；此前李元吉带着两万出城，能够跟着他顺利回来的不过五六千而已。
也就是说，此时晋阳城的唐军也就只有一万五，而刘武周的兵力将近十五万，且晋阳的一个城门已被攻破。
当听到爆炸声响起的时候，李元吉也意识到了晋阳城凶多吉少，他甚至过家门而不入，直接从北门冲到了南门，一边命人盯着缓缓而入的定杨军，一边让人死命搬开堵在南门城门洞里的大石。