张作霖，字雨亭，1875年生于奉天海城一个小商之家。14岁丧父，后投奔外祖父。但他好吃懒做，不务正业，且嗜赌如命，结果一事无成。他读过几天书，做过卖货郎，当过流浪儿，也曾入清兵营当过兵。20岁时，有幸娶了赵家庙地主赵占元之女，住到了岳父家。
婚后过了一段时间，赌瘾发作，便去弄钱参赌，结果输多赢少，还结下不少仇家，最后只好串联了十几个散兵游勇和地痞无赖，结为一帮，当起土匪来。不到半年，张作霖手下已扩充到四五十人。另一匪首金寿山，势力比张作霖大，想把他的一帮招收归己，但张作霖不干。金寿山便突袭张作霖，张作霖狼狈逃往八角台，八角台的匪首张景惠接纳了他，因赏识他的才干，还把第一把交椅让给了他。不久，张作霖与另一匪首汤玉麟结成绿林伙伴，势力不断扩充，成了辽西一霸。
张作霖虽然当上了匪首，但深知难成大气候，所以时时寻找机会招安，企望将来能在军界政坛一展宏图。1902年，机会终于到来，清朝将军增琪家眷路过八角台回奉天，张作霖与汤玉麟商议，将增琪老婆一行中途劫夺，押解到新立屯，好生招待。增琪老婆大惑不解，只求饶命，张作霖却下跪道：“张作霖冒犯夫人，你老多多海涵。我们是八角台的大团，是保境安民的，夫人有何吩咐，在下愿为效命。”增琪老婆安下心来，说：“只要你能保证我们一行平安到奉天，我一定向增琪将军建议收编你们。”
张作霖立即称谢，第二天派人护送增琪老婆上路，平安到达奉天。增琪老婆将此事告之，增琪亦为之动容，奏明朝廷，将张作霖的部众收编入省巡防营，张作霖任新民府游击马队管带。从此，张作霖由匪首一变成了清朝地方军官和堂堂营官。1909年，奉天军队改为中、前、左、右、后5路，张作霖升任中、前两路统领。1912年袁世凯就任临时大总统后，张作霖所部改编为陆军第27师，张作霖升任该师中将师长。除27师外，当时奉天还有冯德麟的28师，而奉天督军则是段芝贵。
张作霖早就想赶走段芝贵，独霸奉天。1916年，袁世凯称帝，遭到全国人民声讨。张作霖与冯德麟密商，彼此配合，用威逼恐吓手段将段芝贵赶走。冯德麟先让军队在夜间在城内放枪，然后张作霖亲自跑到督军府告诉段芝贵说，冯德麟把28师开过来，要惩办帝制祸首。段芝贵吓得浑身发抖，恳求张作霖想办法。张作霖劝他出走。段芝贵立即电请中央到天津养病，并从银行取出公款200万及军火若干，调专车离奉。
张作霖即致电冯德麟，让他派兵拦截，没收了段芝贵的公款及军火。段芝贵到北京后，大骂冯德麟是土匪，当即向袁世凯提出辞职，并推荐张作霖作奉天督军。于是，袁世凯发布命令，任张作霖为奉天督军，任冯德麟为军务督办。驱段是张、冯的共同行动，冯德麟还出了大力，皆因他唱黑脸，张作霖唱白脸，结果督军一职让张作霖捞去，他当然不甘心，两人又开始了明争暗斗。张作霖曾进京，着旧式衣冠觐见溥仪，偷目四觑，觉得大清皇家威仪不过尔尔。溥仪见他贼目兮兮，心中不悦，略致数语而退，对近侍说：“这小子目光炯炯如贼，殊失臣下礼！”张作霖闻之大怒，对人说：“这小子已属平民，还摆什么臭架子！”1917年7月，张勋在北京复辟。张作霖得知后，便与谋士袁金铠商量，决定让冯德麟以奉天全权代表身份前往北京与张勋接洽。
张作霖的打算是，若复辟成功，自己是有功之臣。倘若失败，便把责任推到冯德麟身上，正好除去一个心腹之患。冯德麟不知是计，欣然前往。张作霖控制了冯德麟的第28师，独揽了奉天大权。之后，张作霖夺取了吉林的政权，进而控制黑龙江，完成了称霸东北的事业，成了名副其实的“东北王”。