张辽的祖先聂壹是汉武帝时代的一个富商，为了帮助汉朝消灭匈奴，直接参与策划了“马邑之谋”，计划失败后下落不明，想来就是因为得罪了匈奴而改名换姓，用以避难。

张辽的第一个主公是并州刺史丁原。因为武力过人，被丁原召为从事，与同样以骁勇闻名的吕布成为同事。

大将军何进为了谋诛宦官，召各诸侯带兵进京助力，丁原便先派张辽带兵往洛阳援助何进，何进派张辽往河北再募兵马。

张辽招募一千多人后返回洛阳时，洛阳城里的局势已经发生了惊天动地的变化。何进被宦官谋杀，董卓趁乱带兵进京，把持了朝政。而后董卓引诱吕布杀死丁原，并吞并了丁原的军队。

回京后的张辽大概是比较懵的，他不知道该怎么办，只得率领刚刚招募来的一千多士兵归附了董卓，再次和吕布成为同事。

不久吕布联合王允等人密谋杀掉了董卓，自己做起了主公，张辽和吕布的关系从同事变成了主臣。

吕布对待张辽这个昔日同事还是不错的，给他封了个“骑都尉”的官职，骑都尉秩比二千石，是个比较高的官位。只是好景不长，李傕、郭汜在贾诩的劝说下，召集旧部，将吕布从长安赶了出去，张辽便跟随吕布开始了漫长的狼狈人生，投袁术被袁术打，投袁绍被袁绍打。

张辽和吕布认识较早，想必张辽对吕布的为人还是非常清楚的，可即便是吕布有如过街老鼠，人人喊杀，但张辽一直对吕布不离不弃，甚至参与了袭击曹操根据地的战争，一度让曹操十分难堪。

也许是顾及张辽和曹操之间的关系遭人诽谤，史书中并未记载在吕布和曹操之间的战争中，张辽有对曹操造成过什么伤害。张辽这样一个以武力闻名的人物，说他没在打曹操的时候立下点战功，是不太可能的。

笔者以为魏国的史料《魏书》以及《魏略》都不记载张辽加入曹操之前的事迹实在是可惜，没有张辽和曹操作为敌人时发生的冲突，又怎么体现曹操接纳张辽的肚量！

按《三国志·张辽传》：“少为郡吏。汉末，并州刺史丁原以辽武力过人，召为从事，使将兵诣京都。何进遣诣河北募兵，得千馀人。还，进败，以兵属董卓。卓败，以兵属吕布，迁骑都尉。布为李傕所败，从布东奔徐州，领鲁相，时年二十八。太祖破吕布於下邳，辽将其众降，拜中郎将，赐爵关内侯。”