提拔为司马。后韩馥兵败，张郃引兵归附袁绍，在袁绍与公孙瓒的交战中多有功劳，与颜良、文丑、高览并称为河北四庭柱。

官渡之战时，张郃和高览受郭图陷害，率众投降曹艹并得以重用。后随曹艹平定北方，远征乌桓，平马超，灭张鲁，多有战功。三国时期，张郃随夏侯渊驻守汉中，在夏侯渊被杀后暂代主帅维持败兵，曾大败马谡，打退诸葛亮三次北伐。在此期间张郃虽被张飞打败过，但他却是刘备和诸葛亮最忌惮的一员魏将，晚年中流矢而死。黄忠斩夏侯渊时刘备曾言：杀夏侯渊有什么用，怎么杀的不是张郃！

而现在的张郃才刚刚崭露头角，职位不过屯长，也就是百夫长。东汉军制五人一伍、有伍长，十人一什、有什长，五十人一队，有队率，百人一屯，有屯长，二百人一曲，有军侯，千人一部，有司马或校尉，校尉为正、司马为副。

张郃显然听过马超的名头，刚一见面便撩起衣襟单膝拜倒，拱手道：“小将张郃见过骠骑将军！”

马超忙起身亲自扶起张郃，微笑道：“儁义不必多礼！本将奉诏讨伐窜至冀州境内作乱的黑山贼寇，正需冀州本地勇武之士相助，不知儁义可愿到本将麾下为国效力！”

张郃受宠若惊，没想到马超竟对他如此礼遇，两人的身份差距就相当于现在的军区总司令与民兵连长之间的差距。不过来此之前他已从潘凤口中得知一二，想也没想的便应道：“承蒙将军提拔，小将敢不从命！”

“好！本将即刻表你为武猛校尉，明曰你在冀州郡兵中挑选一名副手，选出两千精锐人马随本将出征！”

“谢将军！小将定不辱使命！”张郃略显激动，由百夫长升为千夫长，还直接统领两千人马，任谁也不能保持淡定。

马超名满大汉，身居骠骑将军高位，名义上总督并、冀两州军事，张郃只不过冀州郡兵里的一区区屯长，正是他管辖范围，就是把潘凤调到麾下也名正言顺。

马超又盘问了几句，得知张郃也不认识高览，而他又没有高览的详细资料，眼下只能作罢！当下让沮授重整酒席，并让张郃入席，继续商谈灭贼之事。麴义就当前贼军形势仔细介绍了一番，并就黑山贼老巢位置做了几个大胆的推断，逻辑清晰，心思缜密，确实是一位不可多得的人才。

不过马超却不想收麴义为己用，因为此人是个反骨仔。历史上就是因为麴义主动背叛韩馥才导致冀州易主，而张郃、沮授、审配等人却是大局已定后才归附袁绍的，姓质大大不同。后来麴义平定公孙瓒有功，又因持功自傲被