虽然他颂扬严嵩，但纯粹是官场上的应酬。作为一个志向远大、雄心勃勃的年轻人，张居正始终保持着清醒的头脑。鉴于张居正的是非观念，严嵩并没有重用张居正，也使得他与严嵩政治集团保持一定的距离。所以很长时间，张居正并无多大作为，一直在冷眼观察，积蓄力量。
嘉靖四十一年（1562）五月，严嵩在各种势力的攻击下终于倒台了，徐阶成为内阁首辅。此时的张居正备感欣慰，因为他知道徐阶当政，就代表自己的出头之日就要来了。
嘉靖二十六年（1547），张居正23岁中二甲进士，授翰林院庶吉士（见习官员，三年期满，例赐编修），进入官场，开始登上政治舞台。
翰林院是当时国家的最高学府和国史修纂中心，对当朝的文化学术有主导性的影响，是士大夫们心驰神往之地，但它并不是纯学术机构，遇有国家大事、盛大庆典以及各式文件的起草，翰林院也要参与。所以，论品级翰林院是五品衙门，属中层机构，但却相当于朝廷的智囊和秘书班子，由于这一特殊的作用，翰林院成为了国家大员的参谋部和储备军。所以庶吉士虽是见习性的，没有品级，却是进入内阁的必经之路，前途无量，因此被人视为“储相”。
见习官员是个闲职，新科进士们聚在一起免不了舞文弄墨，“储相”之誉又刺激了这批人在官场中不断向高处攀升的欲望。当同僚们忙于为仕途奔竞趋迎，或是沉醉歌台舞榭，吟风弄月之时，张居正并没有随波逐流。清闲的职务给他提供了读书、思考的时间。在官场的纷争喧闹中，他洁身自好，没有陷入争名逐利的旋涡，而是闭门谢客，攻读历朝典章制度，默默潜求救国兴邦之道，坚守自己的政治理想。
在他担任翰林院编修、忙于撰写史书之时，仍然素志不移，关注现实，剖析政务。遇有官员从边塞或地方巡视归来，他常常提一饭盒，装着酒菜前去探望，与这些官员边饮酒边聊天，对于当地的山川形势、风俗民情、民众好恶，详细询问，足不出京城而能知天下事，回家后便一一追记在案，进行归纳整理，并提出自己的见解，为此他常常挑灯写作，彻夜不眠。
这时的朝廷，内阁大学士是夏言、严嵩二人。严嵩并无特殊才干，只会谄谀媚上，以图高官厚禄。为了争夺首辅的职务，严嵩和夏言发生了尖锐的斗争。严嵩表面上对夏言谦恭有礼，暗中却伺机陷害报复他。
夏言是个很有抱负的首辅，他任用曾铣总督陕西三边军务。当时，蒙古鞑靼部盘踞河套地区，经常南下进犯，烧杀抢掠，为非作歹。曾铣在夏言的支持下，提出了收复被蒙古鞑靼人占领的河套地区的计划。河套地区东西北三面濒河，南面临近榆林、银川、山西的偏头关等边镇，土地肥沃，灌溉便利，适宜农桑。控制河套地区，对于明朝北面的边防有着重要的意义。曾铣率兵屡败敌人，得到明世宗的赞同和支持。可是，严嵩为了陷害夏言，利用明世宗害怕蒙古鞑靼军的心理，攻击夏言、曾铣等收复河套地区的计划是“好大喜功”“穷兵黩武”。
这时，恰巧宫内失火，皇后去世，世宗皇上崇奉道教，认为这是不祥之兆。严嵩趁机进谗言说：“灾异发生的原因就是由于夏言、曾铣等要收复河套地区、混淆国事造成的。”昏庸无能的明世宗信以为真，立即下令将夏言罢职，曾铣下狱。内阁中凡支持收复河套地区计划的官员分别给予贬谪、罚俸和廷杖的处分。
不久，鞑靼军进犯延安、延川等地，严嵩又抓住这一机会，给世宗进言说，鞑靼军是因为曾铣要收复河套地区而发的兵。世宗又按开边事之衅罪把曾铣处死。
害死了曾铣，夏言还在，严嵩不把他置于死地是不甘心的。数月后，鞑靼接连进攻大同、永宁、怀来等地，京师告急，世宗急得团团乱转。这时严嵩又进谗言说，这完全是夏言支持曾铣收复河套引来的祸患，又捏造了夏言曾经受贿的罪行。结果，夏言也被世宗处死。夏言一死，严嵩便爬上了首辅的高位，完全掌握了内阁大权。
张居正作为一个刚刚登上政治舞台的新科进士，根本无法左右当时的政局。不过，通过朝廷内一次又一次争权夺利的斗争，使他认清了当时政治的腐败。嘉靖二十八年（1549年），他被授以翰林院编修，这给他带来了更多参与政事的机会。这一年他写了一篇《论时政疏》，系统地阐述了他改革政治的主张。
在奏文中，张居正危言耸听地指出了大明朝面临着的五种巨大危害。
首先是姓朱的皇室王爷们，骄横恣意，贪婪凶暴，荼毒百姓，以至于动摇了大明朝的根基。
其次是在人才选拔上，平时没注意人才的发掘和储备，在行政中又常常过于严厉的因为个别失误就罢黜、驱逐人才，从而造成人才渐渐匮乏。
第三是各级官吏，很多图谋私利，既不认真办行政，也不严格考察政绩，导致行政效率低下，百姓也因此受苦。
第四是边境少数民族频繁袭扰，而守卫边境的将领都心存侥幸，只求一时平安，结果常被敌军突袭，而使人民与财产受到损失。
第五是现在的国家财政，开销无度，入不敷出；因为入不敷出，所以必须加重征收，这样，“取之无制，用之无节”，使得国家经济捉襟见肘，而人民生活也日渐贫苦。
应该说，张居正的这篇奏章，基本概括出了明朝当时的主要弊政。尤其将宗室藩王列为五害之首，可谓眼光独到。明朝的藩王，自从朱棣篡权之后，成为皇帝监视与防范的对象；政治上削弱了，经济上却继续着独霸一方地膨胀，控制了大量土地，也给地方经济的发展带来了严重的制约。正是看到这种趋势下的潜在危害，张居正才有此倡议。
这是他第一次疏奏，首次展现了他企求改革的思想。然而遗憾的是，并未引起严嵩和世宗的重视，这篇奏疏没有被采纳。
