加上姐姐衛子夫生下漢武帝的第一個兒子，衛家越來越顯貴了。
並且自己的侄子霍去病同樣優秀，二人作為大漢雙壁，掃蕩匈奴，受到了漢武帝的信任。
元光五年，匈奴興兵南下直指上谷，漢武帝任命衛青為車騎將軍。
漢武帝分派四路出擊：車騎將軍衛青出上谷，騎將軍公孫敖從代郡，輕車將軍公孫賀從雲中，驍騎將軍李廣從雁門出兵。
四路將領各率一萬騎兵，迎擊匈奴。
衛青首徵，果敢冷靜，深入險境，直搗匈奴祭天聖地龍城，並在龍城之戰中，首虜七百多人，取得勝利。
另外三路，兩路失敗，一路無功而還。
漢武帝看到只有衛青勝利凱旋，自然對衛青更加喜愛，於是封衛青為關內侯。
龍城之戰，是自漢初以來對戰匈奴的首次勝利，為以後漢朝的進一步反擊打下了良好的人心基礎。
元朔元年秋，衛青為車騎將軍出雁門，領三萬騎兵，長驅而進斬首虜數千人。
元朔二年，匈奴大舉入侵上谷、漁陽，先攻破遼西，殺死遼西太守，又打敗漁陽守將韓安國，劫掠百姓兩千多人。
武帝派李息從代郡出擊，衛青率大軍進攻匈奴盤踞的河南地，採用“迂迴側擊”的戰術，西繞到匈奴軍的後方，迅速攻佔高闕，切斷了駐守河南地的匈奴白羊王、樓煩王同單于王庭的聯絡。
而後，衛青又率精騎，飛兵南下，進到隴縣西，形成了對白羊王、樓煩王的包圍。
漢軍活捉敵兵數千人，奪取牲畜數百萬之多，控制了河套地區。
因這一帶水草肥美，形勢險要，武帝在此修築朔方城，設定朔方郡、五原郡，從內地遷徙十萬人到那裡定居，還修復了秦時蒙恬所築的邊塞和沿河的防禦工事。
不但解除了匈奴騎兵對長安的直接威脅，還建立起了進一步反擊匈奴的前方基地。
此戰，漢軍全甲兵而還，衛青立有大功，被封為長平侯，食邑四千戶。
蘇建、張次公以校尉從衛青出征有功，封平陵侯、岸頭侯。
元朔五年春，朝廷命令車騎將軍衛青率領三萬騎兵，從高闕出兵。
命令衛尉蘇建做遊擊將軍，左內史李沮當強弩將軍，太僕公孫賀當騎將軍，代國之相李蔡當輕車將軍，他們都隸屬車騎將軍衛青，一同從朔方出兵。
朝廷又命令大行李息、岸頭侯張次公為將軍，從右北平出兵。
他們全都去攻打匈奴。
匈奴右賢王正對著衛青等人的大兵，以為漢朝軍隊不能到達這裡，便喝起酒來。
晚上，漢軍來到，包圍了右賢王，右賢王大驚，連夜逃跑，獨自同他的一個愛妾和幾百個精壯的騎兵，急馳突圍，向北而去。
輕騎校尉郭成等追趕了幾百裡，沒有追上。
漢武帝接到戰報，派特使捧著印信，到軍中拜衛青為大將軍。