武帝派遣马邑人聂一以献马邑城为名，引诱匈奴单于率领10万骑兵深入要塞。汉军30多万人则预先埋伏在附近山谷里，准备一举围歼匈奴主力。匈奴单于亲自率军深入后，发觉了汉朝的诱兵之计，急忙引兵退回。汉朝的“马邑之谋”没有达到预期效果，但大规模反击匈奴战争的序幕，却从此拉开了。

汉与匈奴战争，共有三次重大战役。

大战之前，年轻的卫青初试身手，便显露锋芒，显示出卓越的军事才能。公元前129年，匈奴骑兵南侵上谷郡。汉武帝派遣四路军马同时出击。其他三路或败或散，无功而返。只有卫青一路，率军万骑，直捣龙城匈奴祭祀祖先的地方，首战成功，深得武帝赏识，从此受到重用。

公元前127年，第一次大战役爆发。这一年，匈奴集结大量兵力，进攻汉朝上谷、渔阳，杀辽西太守，掳去2000余人。汉武帝决定避实就虚，派卫青率大军进攻久为匈奴盘踞的河南地。卫青等人引军北上，发动突袭，击败了匈奴的白羊王和楼烦王，收复了秦时蒙恬所辟的河南地，在这里设置了朔方郡和九原郡，建筑了朔方城，又从关东移民十多万，到此屯田戍边。从此，不但解除了匈奴骑兵对长安的直接威胁，也建立起进一步反击匈奴的前进基地。

公元前124年，汉武帝又派卫青率领骑兵3万，配合其他几路大军，深入塞北六七百里，掩袭匈奴右贤王王庭。右贤王措手不及，仅带几百随从，仓皇北逃。这次战斗，俘匈奴男女1。5万余人，裨王小王十多人，进一步打击了匈奴的军事力量。为此，汉武帝特意遣派使者，拿着大将军印，前往边塞迎接卫青，就军中拜卫青为大将军，让他统帅所有抗击匈奴的汉军。

公元前121年，第二次大战役开始，斗争焦点是争夺河西地区。霍去病在这次战役中，勇敢善战，是首功之将。霍去病18岁时便已初露头角，曾在卫青部下，以八百精选骑兵，奔袭几百里，杀死匈奴单于的叔祖父。因此，这时汉武帝便大胆提拔他为骠骑将军，委以领导进军河西的重任。霍去病率精兵万骑，奔驰千多里，连败匈奴骑兵，杀伤俘获过万，得匈奴休屠王的祭天金人。不久后，他又指挥几路精骑“出陇西、北地两千里，过居延，攻祁山”，取得了更大胜利。这次战役，使汉朝控制了河西地区，切断了匈奴与羌人?