从江南回来，狄仁杰先被提升为文昌右丞，数月后，又被任命为豫州（今河南汝南）刺史。
文昌右丞为正四品下，品阶与先前所任的冬官侍郎相同，但职位和权力却大了许多。
从冬官侍郎升为文昌右丞，乃是武则天对狄仁杰江南之行所作所为的肯定。
而从文昌右丞下调到豫州刺史，却并不是武则天对狄仁杰的贬黜，而是武则天对狄仁杰的器重。
狄仁杰出任豫州刺史的时间是垂拱四年(公元688年)9月，而此前的豫州刺史是越王李贞。
这年的7月，鉴于武则天的血色清洗，唐宗室诸王人人自危。唐高祖之子绛州刺史韩王李元嘉及儿子通州刺史黄公撰，青州刺史霍王李元轨及儿子金都刺史江都王李绪，邢州刺史鲁王李灵夔及儿子范阳王李蔼，虢王李凤之子东莞郡李公融，太宗之子豫州刺史越王李贞及儿子博州（今山东聊城东北）刺史琅邪王李冲等，因惧怕武则天加祸于自己，共同密谋匡扶唐业。他们伪造皇帝玺书，言称皇帝被幽禁，请诸王发兵救之。李贞的儿子博州刺史琅邪王李冲为了激发宗室的更大斗志，更伪作玺书，称武则天将移李氏社稷于武氏，分告诸王，令各起兵赴神都洛阳捉拿武则天。不过，范阳王李蔼却首鼠两端，担心大事难成，就做了个可耻的叛徒，将诸王的预谋密告武则天。
武则天大为震怒，派张光辅、曲崇裕领兵三十万前往征讨。
李冲发现事情败露，只好领所募五千兵勇仓促举事。
这种情形下，失败已成必然了。
从起兵到兵败，不过七天，李冲本人身不能免，死于乱军之中。
李冲的父亲越王李贞在豫州听到儿子的死讯，已没有退路，领七千余匆忙应战，却也是一战而溃，李贞老泪纵横，与妻女相拥自杀。
其他诸王虽未如李贞起兵，但最终也相继被诛死或流放。
按当时的法律，凡属叛军者一律当诛，包括叛军家属。
而地方司刑官吏又以彻底平叛作为邀功手段，大兴囚狱，将许多普通百姓下狱请功，大肆勒索钱财。一时间，人人惶恐，民心骚动。有六七百参与叛乱者和他们的家人共五千多人要集体处死。
初到豫州的狄仁杰了解到内情，坐卧不安，不顾律令森严，毅然写了一份《奏从越王举兵诖误免死表》，密奏朝廷，多方为这些无辜的百姓辩护，他说：这些人是因为受到欺骗才被牵连的。臣本想按规定上奏，又觉得似乎是在为叛逆之人说理；不说，又会连累陛下没有体恤之意，奏章写好了又毁掉了，不知该怎么办为好。这些人都不是本意要作乱，而是被胁迫、连累成这样的，还盼望陛下可怜他们的处境，网开一面。”
几天之后，密奏送到了武则天那里。武则天觉得狄仁杰说得有理，而且也不想作恶太多，便将这些人改判为流放，迁徙丰州(今内蒙古河套西北)。
这样，在狄仁杰的努力奔走下，这六、七百名即将被处死的“叛乱者”终于得从鬼门关前捡回了一条小命，
这些躲过劫难的流徒行经狄仁杰曾经工作过的宁州，宁州父老告诉他们：“你们能大难不死，正是我们狄公冒死相救所致！”
狄仁杰在宁州任职不过只有短短五年，就被宁州百姓视同亲人，他们一口一句“我们狄公”乃是对狄仁杰功绩的最大肯定和奖赏。
流徒们知道了解救自己的恩主是狄仁杰，全都感激涕零地跪倒在宁州百姓所建的“狄公德政碑”之下。
此情此景，押解和州衙官吏也为之动容，允许宁州父老的请求，设斋三日，招待流徒。由此，后世又将“狄公德政碑”称为“梁公坠泪碑”，并在立碑处加建了一座“狄梁公庙”。
狄仁杰以他的人格和行动在宁州树立了一座丰碑。后来凡到宁州做官者，无一不去“狄梁公庙”前祭祀。宋代范仲淹知庆州时还亲自撰写了狄梁公的碑文，碑铭：“天地闭，孰将辟焉？日月蚀，孰将廓焉？大厦仆，孰将起焉？神器坠，孰将举焉？严严乎克当其任者，唯梁公之伟欤。”对狄仁杰的一生功绩给予了高度评价和赞扬。清顺治五年（公元1648年），知府赵鸣乔还自筹经费，重修了“狄梁公庙”。后世还在宁州建起了“狄公祠”，其“背据苍崖，面绕清溪，古桧寒松，郁然森列灵爽”。狄公祠的“梁台雪霁”被誉为庆阳府八大胜景之一，为骚人逸士喜于游览和缅怀的胜地。
张光辅所部将士叛乱平定之后，人人恃功自傲，在当地为所欲为，危害百姓，而张光辅也听之任之。
狄仁杰出面制止。
张光辅戟指狄仁杰，恶狠狠地说：“难道你一个州官也胆敢不把本元帅放在眼里？须知，汝南之乱，可不是仅仅一个李贞可以做到的！”
狄仁杰两眼喷火，朗声答道：“乱汝南者，本来就只是一个李贞，但因为你胡搞乱搞，李贞尽管已经死了，却又凭空生出了一万个李贞来！”
张光辅气得浑身发抖，恼羞成怒地说：“你、你……说话要注意分寸！”
狄仁杰义正辞严地回答道：“明公统兵三十万，所诛者止于越王李贞。城中听到官军到，翻墙出城投降者四面踩成了小路，你却怂恿将士暴掠，诛杀已经投降的士兵来为自己增功，流血遍野，无辜的百姓都坠入涂炭之中，喊冤的痛哭之声响彻上天，假如我能得到尚方宝剑加到您的脖子上，即使死了也没有什么遗憾了。”
此番大义凛然的说辞驳得张光辅哑口无言。
吃了哑巴亏的张光辅从此对狄仁杰恨之入骨。
回到洛阳，第一件事就是恶人先告状，状告狄仁杰维护叛逆，阻扰平叛工作。
武则天正在手忙脚乱地制造政治高压态势，听了张光辅的话，不假思索，贬斥狄仁杰，罢去狄仁杰豫州刺史之职，先贬为复州（今湖北沔阳西南）刺史，接着又贬为洛州司马。
