宰相张光辅率军平定了李贞叛乱,部下将士居功自傲,胡作非为,到狄仁杰的辖区内勒索财物,狄仁杰一概不答应。张光辅恼怒地对狄仁杰说道:“你一个小小的州刺史难道敢轻视我这个大军元帅吗?”狄仁杰说:“扰乱河南的,仅仅是一个越王李贞罢了。现在,一个李贞刚被平定,而上万个李贞又出现了。”张光辅听了,十分恼火,质问狄仁杰说这话是什么意思。狄仁杰说:“您率领三十万军队,平定一个乱臣,不收敛约束军队,却放纵军队乱施暴行,残杀无罪之人,使百姓肝脑涂地,这不是又出现了上万个李贞吗?况且,李贞倚仗他的威势使百姓胁从,百姓不由自主,到朝廷官军来到时,登上城墙,顺着绳索滑下归顺官军的人数以万记,城四周都踩出了许多小路。您为什么为了邀功求赏,纵容部下滥杀归降之人?只恐怕喊冤之声响彻云天。若能得到尚方宝剑架到您颈之上,您也一样很轻易地被处死。”狄仁杰一席话说得张光辅哑口无言,但他心中却极其忌恨狄仁杰。
张光辅回到京城以后,诬奏狄仁杰袒护叛乱的罪犯,狄仁杰被贬为复州刺史。后来,狄仁杰又改任洛州剌史。
天授二年(公元691年)九月,狄仁杰升任侍郎、同凤阁鸾台平章事。武则天对狄仁杰说:“您在汝南时,颇有优良政绩。您想知道说您坏话的人是谁吗?”狄仁杰辞谢道:“陛下若认为我有过失,我一定改正;陛下若知道我没有过失,这就是我的幸运。我不去了解进谗言诋毁我的人是谁,周围的人就都是我的好友,我请求不要让我去了解这个人是谁。”武则天对狄仁杰的胸襟豁达坦荡深加赞赏。