为太中大夫、廷尉、御史大夫，与赵禹编定《越宫律》、《朝律》等法律著作。张汤用法主张严峻，常以春秋之义加以掩饰，以皇帝意旨为治狱准绳。曾助武帝推行盐铁专卖、告缗算缉，打击富商，剪除豪强，颇受武帝宠信，多行丞相事，权势远在丞相之上。元鼎二年（前115），因为御史中丞李文及丞相长史朱买臣的构陷，被强令自杀。
张汤虽然自杀，但生前毕竟担任过高级别的领导职务，为了张汤的体面，他的兄弟和儿子仍想举全家之力厚葬张汤，同时也想借此告慰张汤屈死的冤魂。张汤的母亲却力排众议，言辞坚决地说：“张汤是天子的大臣，遭受恶言诬告而死，我们为何要厚葬呢？”因此，曾经位列三公的张汤，死后就如同一个草芥百姓一样，被一辆破破烂烂的牛车拉到了古陌荒阡。据说，张汤的遗体躺在一个薄薄的棺材里，棺材之外连个外椁都没有。
张汤的母亲以这种另类方式来表达内心的怨恨，向社会发出了无声的抗议。汉武帝知道后，感慨地说：“非此母不能生此子！”张汤身后的凄凉感动了汉武帝，他穷究此案，终于发现了问题所在，于是砍下了诬告张汤的三个长史的脑袋。汉武帝为了安慰张汤的在天之灵，就不断提拔他的儿子张安世。从此，张安世步步高升，到汉宣帝时期被封为富平侯，尊贵无比。随着张安世地位的提高，班固在撰写《汉书》的时候，就将张汤由《酷吏列传》中抽出，张汤总算翻了身。而这一切无疑都和张汤母亲当年的重大决定有直接关系。正是因为张母坚持薄葬张汤，张汤的冤情才得以为皇帝所瞩目，张家才赢得了最后的公正。