张汤执法严酷，又善于媚上，因此得罪了不少人，河东郡人李文就与张汤有仇。李文后来担任御史中丞，有机会阅读宫中的文书、档案，就趁机寻找对张汤不利的材料，毫不留情地揭发攻击张汤。张汤手下有个叫鲁谒居的，很受张汤信任，他为张汤打抱不平，便指使他人上书揭发李文所做的坏事，李文被捕入狱，张汤顺理成章依法处死了李文。
张汤心里知道揭发李文的是鲁谒居，但当武帝问及上书告发李文的人是谁时，他假装迷惑地说：“大概是怨恨李文的熟人告发的。”后来鲁谒居生病，租住在近郊的乡下。张汤很感激鲁谒居，亲自去探望他，并给他按摩腿脚。
赵国很多人以冶炼、铸造为业，赵王刘彭祖为了自己的利益，经常与朝廷设置的铁官发生纠纷，而张汤代表朝廷，多次依法打击刘彭祖。刘彭祖因此怨恨张汤，就到处刺探他的私事，想抓住他的把柄。鲁谒居也曾经审理过刘彭祖的案件，刘彭祖对他也心怀怨恨。当得知张汤与鲁谒居乡下相会的情况后，刘彭祖立即上书告发说：“张汤是朝中大臣，属下鲁谒居生病，他居然去给鲁谒居按摩腿脚，他们之间一定有什么不可告人的秘密。”
武帝把此事交给廷尉处理，廷尉去审问鲁谒居时，鲁谒居刚好病死了，于是就抓了他弟弟，关押在导官署。张汤正好到导官署处理别的囚犯，看见了鲁谒居的弟弟，为了不惹麻烦，张汤假装没看见，打算再暗地里想办法救他。鲁谒居的弟弟不知道张汤的良苦用心，以为张汤见死不救，怨恨之下，让人上书告发张汤和鲁谒居，说他们共同策划诬陷并杀害了李文。这次武帝把案子交给减宣审理。减宣以敢决疑案，深刻阴毒而著称，他与张汤平素就有矛盾，接手这一案件后，马上彻底深入地追查，案件有了进展也不向武帝汇报，而是等待时机，准备一举把张汤置于死地。
这个时候张汤偏偏又给自己拉了更多的仇恨。事情是这样的，有人盗窃文帝陵园的殉葬钱，丞相庄青翟与张汤约好一起到皇上面前请罪。可到了武帝面前，张汤却反悔了，他觉得四季巡视陵园是丞相的职责，跟自己没有关系，拒绝谢罪。庄青翟谢罪后，武帝让张汤查办此事，张汤准备按知情故纵的法律条款处置。庄青翟非常害怕，不知如何是好。就在庄青翟惊慌无措的关头，丞相府的三个长史主动前来相助，组成了致死张汤的另一股力量。
三个长史，一个是朱买臣。朱买臣当年为太中大夫时，张汤还只是个小官，经常要跪在朱买臣跟前听候差遣。后来张汤做了廷尉，判决淮南王刘安谋反案，陷害并处死了的对朱买臣有恩的严助，朱买臣心中怨恨。等到张汤做了御史大夫，朱买臣也升任主爵都尉，但几年后犯法被免，任丞相长史。他有事去拜见张汤，张汤坐在床上接见他，连他的下属都不把朱买臣放在眼里。朱买臣怀恨在心，总是想着有朝一日把张汤整死；另一个是齐国人王朝，王朝通晓经术，曾担任右内史；还有一个是边通，边通熟悉纵横术，为人刚烈暴躁，曾担任济南国相。这三个人的地位原来都比张汤高，后来丢了官，担任丞相长史，只好屈身张汤之下。张汤的权势越来越大，多次代行丞相的职权，他知道这些辅佐丞相的长史平素骄贵，就故意凌辱他们，由此结下了仇怨。这三人对庄青翟说：“当初张汤和你约好一起向皇上谢罪，却出尔反尔，这是想借机打压你，好取代你的位置。我们已经知道张汤的不法勾当，可以用来打击他。”
于是三长史逮捕审讯了与张汤有交情的商人田信等人，这些人被逼供认说：张汤奏请朝廷要办的事情，田信总是事先知道，因而囤积物资发财，事成之后与张汤分赃。除此之外，还有其他不法之事。这些供词很快就传到了武帝那里，武帝对张汤旁敲侧击，他问张汤：“我要做的事，商人总是预先知道，然后趁机囤积居奇，就好像有人通风报信一样，这是怎么回事？”张汤觉得武帝话中有话，但不知道问题出在哪里，便故作惊讶地说：“那肯定是有人这样做！”武帝本以为张汤会主动坦白，所以听了，心里不快。
这时候减宣看到时机已经成熟，便上奏鲁谒居的事情，武帝于是认定，张汤心怀奸诈，当面欺骗自己，派使臣带着簿籍以八项罪名指责张汤，张汤一概否认，拒不交代。于是武帝又派出赵禹去责备张汤。赵禹是张汤向来敬重的“兄长”，赵禹见到张汤后，半责备半劝告说：“你怎么不懂得做人做事的分寸？你办案被灭族的有多少人家了？现在人家指责你的事都有依据，天子不想为难你，不想把你关进监狱。你也要好自为之，难道一定要找出更多证人来与你对证吗？”
张汤知道大势已去，只好写信给武帝，谢罪说：“张汤没有尺寸之功，以刀笔吏起家，幸好得到陛下的宠幸，才得以位列三公。而今事出有因，臣却无力申辩。设计陷害张汤者，就是丞相府的三位长史。”随后自杀身亡。
那张汤死亡的根本原因是什么呢？他死后陷害他的人又会怎样呢？且听下回分解！