建元三年（公元前138年，入宫后被冷落了一年多的卫子夫再次获幸有了身孕，引起了陈皇后的嫉妒。其母馆陶公主派人捉了正在建章（后为建章宫当差的卫青，意图杀害。同僚公孙敖听到消息后率人赶去救下卫青。汉武帝得知此事，大为愤怒，立刻任命卫青为建章监、侍中，封卫子夫为夫人，卫长君为侍中。数日间连续赏赐卫青，多达千金。卫孺嫁给了太仆公孙贺，卫少儿嫁给了陈平的后人詹事陈掌。公孙敖也因此显贵。卫青后又被任命为太中大夫，俸禄千石，掌管朝政议论。

公元前138年到前129年近十年间，卫青作为建章监和侍中，跟随皇帝左右，和他一起听闻朝政，后又成为太中大夫，足见其才干深得武帝信任，为后来七征匈奴，甚至任大司马大将军为内朝参决政事、秉掌枢机打下良好基础。

初伐匈奴

元光六年（公元前129年，匈奴兴兵南下直指上谷（今河北省怀来县。汉武帝任命卫青为车骑将军，率领一万骑兵，迎击匈奴。汉武帝分派四路出击。车骑将军卫青出上谷，骑将军公孙敖从代郡（治代县，今山西大同、河北蔚县一带，轻车将军公孙贺从云中（今内蒙古托克托东北，骁骑将军李广从雁门出兵。四路将领各率一万骑兵。

卫青首征，果敢冷静，深入险境，直捣匈奴祭天圣地龙城，首虏7人，取得胜利。另外三路，两路失败，一路无功而还。汉武帝看到只有卫青胜利凯旋，封卫青为关内侯。龙城之战是自汉初以来对战匈奴的首次胜利，为以后汉朝的进一步反击打下了良好的人心基础。

元朔元年（公元前128年秋，卫青为车骑将军出雁门，领三万骑兵，长驱而进斩首虏数千人。

元朔二年（公元前127年，匈奴大举入侵上谷、渔阳，先攻破辽西，杀死辽西太守，又打败渔阳守将韩安国，劫掠百姓两千多人。武帝派李息从代郡出击，卫青率大军进攻匈奴盘踞的河南地（黄河河套地区，采用“迂回侧击“的战术，西绕到匈奴军的后方，迅速攻占高阙（今内蒙古杭锦后旗，切断了驻守河南地的匈奴白羊王、楼烦王同单于王庭的联系。而后，卫青又率精骑，飞兵南下，进到陇县西，形成了对白羊王、楼烦王的包围。汉军活捉敌兵数千人，夺取牲畜数百万之多，控制了河套地区。因这一带水草肥美，形势险要，武帝在此修筑朔方城，设朔方郡、五原郡，从内地迁徙十万人到那里定居，还修复了秦时蒙恬所筑的边塞和沿河的防御工事。解除了匈奴骑兵对长安的直接威胁，也建立起了进一步反击匈奴的前方基地。

此仗汉军全甲兵而还，卫青立有大功，被封为长平侯，食邑38户。苏建、张次公以校尉从卫将军有功，封平陵侯、岸头侯。