张衡字建平，河内人。

祖父张嶷，西魏河阳太守。

父亲张光，北周万州刺史。

张衡幼怀大志，有鲠直之风。

十五岁，到太学学习。

他用心学习，认真研究，被同辈人所推许。

周武帝遭太后之丧，却与左右出去打猎。

张衡免冠露发，抓住武帝的坐骑，直言劝谏。

武帝嘉奖了他，赐他衣服一袭、良马一匹，提拔他当汉王侍读。

张衡又到沈重那里学习《三礼》，略略推究大意。

累次升迁，到任掌朝大夫。

隋高祖受禅登基后，拜授他为司门侍郎。

到晋王杨广为河北行台时，张衡历任刑部、度支二曹郎。

后因河北行台废置，授他为并州总管掾。

晋王杨广转而镇守扬州后，张衡又当他的总管掾。

晋王很亲重他。

张衡也尽忠竭力侍奉他。

夺太子之位的计谋，大多为张衡所提出。

因母丧离职，一年多后，重新作官，当扬州总管司马，赐缣采三百段。

开皇中，熙州人李英林聚众造反，设置文武百官。

朝廷以张衡为行军总管，率领步兵、骑兵五万人讨伐平定叛军。

授为开府，赐奴婢一百三十口，缣采五百段，另加金银和牲畜。

晋王为皇太子后，授张衡为右庶子，兼任给事黄门侍郎。

炀帝继位，他任给事黄门侍郎，升任银青光禄大夫，不久任御史大夫，很被炀帝亲近看重。

大业三年(607)，炀帝到榆林郡后，回到太原，对张衡说：“我想到你家里去，你为我作东道主吧。”张衡于是赶到河内，与张家的人准备好牛肉美酒。

炀帝上太行山，开辟直路九十里，以到他家里。

炀帝很喜欢那里的山泉，留下来饮宴三天，因而对张衡说：“以前随先皇帝拜谒太行山的时候，途经洛阳，看到这里，深深遗憾不得相访，不料今日得遂夙愿。”张衡拜伏于地，谢谢皇上，并奉杯敬祝皇上。

炀帝更高兴，赐他住宅旁的田地三十顷，良马一匹，金带，缣采六百段，衣服一袭，御用食器一具。

张衡推辞，炀帝说：“天子到了哪里，之所以叫‘幸’，就是因为这。

不必推辞了。”张衡又给炀帝献食，炀帝下令赐给公卿，一直到卫士们，无不沾光。

张衡因是炀帝当藩王时的故交，恩宠无人可比，很有些骄贵。

次年，炀帝到汾阳宫，宴请随从官吏，特赐绢帛五百匹。

当时炀帝想扩建汾阳宫，让张衡和纪弘整画好图纸奏上。

张衡借机进谏说：“这几年劳役繁多，百姓疲惫，请您留点神，稍稍少搞点这类事。”炀帝心里很不舒服。

炀帝曾看着张衡，对侍臣们说：“张衡自以为因为他的计谋，才让我有天下。”当时齐王杨..失爱于炀帝，炀帝秘密让人找杨..的过失。

有人告张衡违反制度，将伊阙令皇甫诩带到汾阳宫。

又说以前炀帝到涿郡以及祭祠恒岳时，那些来谒见的父老乡亲，衣冠大多不整。

炀帝怪罪张衡，身为司法官，不能检举处理这些问题，让他出京当榆林太守。

次年，炀帝又到汾阳宫，张衡正在督促劳役修筑楼烦城，因而拜见炀帝。

炀帝厌恶张衡没有消瘦，以为他不想过失，因此对张衡说：“你长得很肥，应暂且回到郡里去。”张衡又到榆林郡去。

继而令张衡监督修江都宫的劳役。

有人到张衡那里告监修江都宫的人，张衡不为他处理，却把状纸交给那个监工，这个人吃了监工更大的亏。

礼部尚书杨玄感出使到江都，这个人到玄感处喊冤。

玄感自然认为张衡的作法不对。

到与张衡相见时，玄感又没说什么。

张衡又先对玄感说：“薛道衡真是被冤死的。”玄感把这些事都报告给了炀帝。

江都丞王世充又奏张衡频频减少劳役的饭食。

炀帝于是发怒，把张衡关起来，送到江都市，将要杀他，过了很久才放他，除名为民，放他回老家乡里。

炀帝常令亲信窥探张衡在作些什么。

大业八年(612)，炀帝从辽东回到京都，张衡的小妾说他心怀怨恨，诽谤朝政，炀帝竟然赐他在家里自尽。

他临死时大声说：“我为世人作了什么好事哦，还想久活！”监督行刑的塞耳不敢听，下令杀了他。

义宁中(617)，因其死于无辜，追赠他为大将军、南阳郡公。

谥号叫“忠”。

有子叫张希玄。