嘉靖四十五年（1566年），明朝嘉靖皇帝去世，他的儿子明穆宗即位，以第二年为隆庆元年。此时，南方的倭患已经基本平息，而北方蒙古鞑靼部的不时南下侵扰，成为明朝政府面临的突出问题，朝廷一直在考虑解决问题的办法，这一年的九月，蒙古俺答部进犯山西，土蛮进犯蓟州，整个京师地区一片恐慌。十月，朝廷决定调戚继光来京师任职，以解决国家北部所面临的敌情。
十一月，戚继光告别战斗多年的江浙地区和民众，祭扫了在平倭战斗中阵亡的将士祠堂，也辞别多年的同事和朋友，来到明朝的都城北京。戚继光刚到北京，就上书朝廷，陈述了自己对于北方的边情和抗击鞑靼的具体策略与办法，要求朝廷拨给自己士兵和行事的权力，着手训练，积极防御，以求改变北方边境的被动局面。但由于朝廷听信流言，对戚继光不够信任，只是让他在北京任了一个神机营副将的闲职。但是，由于北方战事的吃紧，加之朝廷中的一些大臣如内阁辅臣和兵部左侍郎谭纶等的大力支持，朝廷最终决定让戚继光出任总理蓟、昌、保定练兵事务一职。上任以后，戚继光又面临和当地总兵的权力分配问题，于是在隆庆三年（1569年），朝廷调回蓟镇总兵郭琥，任命戚继光为蓟镇总兵，负责蓟州、永平、山海各处的防务工作。
戚继光认为，北方少数民族擅长骑射，只有能够抵御蒙古骑兵的长箭和猛烈的集群冲击，才能在战争中取得胜利，进而才能守住边境不受侵犯。他还认为车战是防御敌人的最好战术，主张用战车来装备车兵，然后把步兵、骑兵和车兵混编在一起，以战车来防御和打击敌人的骑兵，同时用步兵来保卫战车，以骑兵来保卫步兵和追击敌人，这样形成了一个较为严密的攻防作战系统。戚继光上任不久，即着手建立车步骑营，朝廷为此专门拨银两用于制造战车和车载的火器。后来，戚继光共建成战车营十二座，每座车营分别装备轻车和重车近三百五十辆，重车每辆车配备大约二十名士兵，装备火炮两门，鸟铳和火箭若干，齐射的火力相当猛烈，士兵们也分工合作，有的负责驾车，有的负责操纵火炮，有的负责火箭，同时配备长刀和藤牌负责防御，每辆战车还装有又长又厚的车厢，用以防御敌人射来的火箭和石头。另外，每辆战车还有专人负责本车士兵的伙食。整座战车营还有指挥官专用的指挥车，专门的火箭车和大将军车，其中大将军车上载有威力较大的大口径火炮，整个车营的防御性能也特别好，列起阵来可以防御敌人骑兵马队的正面冲击和强弓长箭的射击，很好地遏制了敌人骑兵威力的发挥。另外，战车营还装备了许多不同口径的火炮、大量的鸟铳和火箭，在战斗中，各种火力搭配，形成梯次，可以连续轮番射击，大面积杀伤敌人的骑兵马队。
战车营、步兵营和骑兵营要配合使用。骑兵营和步兵营也配备大量的火器，但步兵营的主要功用在于保障战车营的安全；骑兵营的主要职责在于驱赶靠近战车营的敌人骑兵，使其不能杀伤我军的士兵。另外在敌人溃逃之时，骑兵营要整队出击，有效地追击和歼灭敌军。车、步、骑三营配合，可守可攻，先守后攻，威力十分强大。但这样的配合却也带来了日常训练的复杂性，由于北方士兵的纪律性较差，戚继光请求朝廷把他原来部队的一部分调到北方作示范训练，并且根据实际情况，亲自编写了练兵法则和条例，采取了循序渐进的方法进行训练，先是单兵训练，然后是士兵之间的配合演练，最后是兵种之间的协同作战演练，力争使整个体系的作战威力达到最佳状态。经过长时间训练，这种编制的合成兵种终于可以有效抵御敌人的进攻了。
根据敌人的骑兵出没不定、机动性强的特点，戚继光还主张修缮边墙和敌台预防小股敌人的侵扰。隆庆二年（1568年）年底，戚继光请求朝廷拨专款用于修建空心敌台。所谓空心敌台，是一种类似于民间大院门楼的建筑物，一般依地势而建，台高约十米，长和宽各有五十米左右，中间是空心的，分为上、中、下三层，可容纳数十人居住；整个敌台是一个较为完备的系统，士兵们防守用的器械、设备和粮食等生活用品都存放于敌台里面。敌台不仅可以向远处瞭望，发现敌人，而且可以长期驻扎士兵，其作用相当于现代边境线上的边防哨所之类的设施。空心敌台是历代边防工事的首创，没有成熟的范例可以借鉴，为了便于修建，这些敌台大都修建在边防线上的要害之处，地势险要、易守难攻，守边的士兵无需像以前那样饱受风霜雪雨之苦，而且能更好地抵御外敌的入侵，这些敌台在明朝的边防中发挥了重大的作用。由于敌台是大批量的建造，加上戚继光的正确引导，修建敌台的费用并不太高，到明朝万历九年（1581年），蓟、昌二镇共修建敌台一千四百余座，这些敌台之间相互联系，互相依托，使蓟北地区的防务有了一个较大的改善。
除了修建敌台之外，戚继光还对防区内边墙进行了整修，把前人修过的边墙进行了增补，高达到了七八米、宽达到了五六米，这样一来，防区内长达一千八百余里的疆界上，除了特别陡峭的地方外，都有了边墙的防守。戚继光不但整修了边墙，而且将边墙的附属设施加以完善，增设了宇墙，改造了垛口，设置了悬眼和里门，另外还在边墙的外面，挖出堑戚继光制定了修台的规则，在选址、用料、建筑标准上都做了具体的要求；他还亲自在防区内实地考察，对防区内的山山水水做到了然于胸。除此之外，他还让弟弟山东把总戚继美留在蓟镇修筑敌台，为各地的筑台工作树立一个榜样。尽管敌台的修筑并不是那么顺利，始终受到流言的干扰和朝廷当中某些官员的反对，但是在戚继光的督导之下，到隆庆三年（1569年），共修建敌台四百七十余座，壕，把墙外面的山坡铲得更加陡峭，还挖掘了品坑，这样边墙的防御作用就大大增强了。
敌台、边墙和墙内的营垒，形成了一个较为完整的防守体系，戚继光还给这些工事配备了组织严密的防守力量，他奏请朝廷，在敌台和边墙上派驻很多长期驻扎的守军，给这些士兵配备了火炮、神快枪、火箭、石炮等当时十分精良的武器装备。
除了防御工事和驻军以外，戚继光还建立了严密的报警系统，他设立了专门的明哨和暗哨以及报警的墩台。明哨就是戚继光部派遣的情报人员，这些人员定期深入到敌人生活的地区，化妆成当地人的模样，说着当地人的语言，借机收集敌方的情报。所谓暗哨就是各个防区的负责人，派人到指定的地点埋伏起来，观察敌情，一旦敌人有了新的动向，这些人马上回来报告情况。除了大量的情报人员之外，戚继光还在防区内建立了近六百座烽火台，并且规定了传播消息的暗号，如果一个地方发现敌情，很快各个防区都可以得到消息，这样就便于戚继光和各个防区的指挥官们分析敌情，抓住战机，做出判断。
戚继光还根据防区内的地形和地貌的不同，把全防区分成十个小的防区，各个防区指定专门的将领负责，分区进行防守。对士兵和将领进行思想教育，制定了连坐法和保结法，如果作战不力导致主将战死，那么所有偏将斩首；偏将战死，手下所有千总斩首；千总战死，手下所有百总斩首等等，以此类推直到普通士兵。同时，上级也要教育并保证自己的下级能够奋勇杀敌，不能怯阵畏缩。这样的方法虽然很是严酷，却使得将领和士兵能够上下一心、奋勇杀敌。隆庆六年（1572年），借朝廷官员巡视的机会，戚继光举行了一次大规模的军事演习，演习不但检验了练兵的成绩，而且也取得了良好的效果，鼓舞了士气，震慑了敌人。
戚继光在任的那一段时期，威胁戚继光防区的蒙古势力主要有三股：一股是西部的鞑靼俺答部、附近的朵颜、秦宁、福余三卫和东部的土蛮部。自隆庆二年年底，朵颜部的首领董狐狸率部数次进犯明朝边界，均被戚继光击溃，界岭口一战，董狐狸几乎被活捉，后又经过两次战斗，戚继光俘获了他的弟弟长秃，慑于明军的战斗力和戚继光的威名，董狐狸率部到喜峰口请罪，并表示愿意世代臣服，戚继光接受了他的请求，并释放了他的弟弟。在戚继光的任期内，他们再也没敢侵犯边境。隆庆四年（公元1570年），俺答和土蛮集结了近三十万人准备进犯北部边境，土蛮得知了戚继光已经有了充分的准备，没有敢于进犯，后来俺答部和明朝朝廷达成和解，土蛮部虽然扬言攻抢，但慑于戚继光的名号，终于没敢付诸实施。另外，戚继光还两次支援辽东地区，配合友邻击溃了土蛮的进攻。戚继光镇守蓟辽地区，有力地保障了京师一带的安全，巩固了明朝北方边境的安全，成为名副其实的“塞上长城”。
