幾天後，新立屯附近的一條小路上，出現十幾輛大車，是盛京將軍增祺家屬的隊伍。沒走多遠，路邊忽然傳來一聲唿哨，大批土匪蜂擁而至，攔住了他們的去路。車上的人嚇壞了，護衛的見土匪人多勢眾，也不敢輕舉妄動，紛紛繳械投降。土匪押著他們，來到新立屯的街里。令大家感到奇怪的是，這些土匪十分客氣，給增祺的老婆和僕人安排了一個上好的房間，其他的隨行人員也妥善安置，沒動刀也沒動槍。
其中有個領頭兒的，膽子比較大，心眼兒也多，他看張作霖二十多歲，談吐儒雅、文質彬彬，話里話外透著一股實在和隨和，一點兒也不像個土匪，就勸張作霖棄暗投明，走上正路。
張作霖告訴他自己也想為國家效命，只是沒有機會。
領頭兒的的便把此事稟告了增祺的夫人。增祺的夫人聽了手下的稟報，決定見張作霖一面。一是自己身處險境，生死難測；二是如果能將這群悍匪引上正路，也是功勞一件。
張作霖很快來了，一進屋，恭恭敬敬，垂手站立，像一個初入社會的大學生。增夫人對他的印象不錯，許諾張作霖回去後要增祺收編他的隊伍，給他一個出路。張作霖命令手下的弟兄，將所有物品一律歸還，送增夫人離開新立屯。
增夫人回到奉天，見到增祺，對張作霖讚不絕口，那些隨行的人員也紛紛跟著說好話，奉天府終於同意招撫張作霖。張作霖書讀得不多，但是頭腦靈活，他明白我既然投靠了官府，就一定惟命是從，讓我削誰我就削誰，往死削。
新民府知府叫增韞，他對張作霖很感興趣，想要親自見見張作霖。張作霖接到消息，馬上換了一套新衣服，收拾利索，來見增韞。增韞對這個文質彬彬的年輕人很滿意。
經過一番談話，增韞讓張作霖先回去吧，整頓隊伍，聽候命令。 張作霖千恩萬謝，起身告辭。回到駐地，馬上派人帶著厚禮，上奉天去見增祺的夫人，疏通關係，以做到萬無一失。
不久，張作霖得來了一個證明自己的機會，他接到奉天省總巡璞玉的密令：圍堵海沙子。海沙子是個土匪頭子，大名閻海山，自恃手下有一支能征善戰的綹子，誰的賬也不買。官府把它視為眼中釘肉中刺，非拔掉不可。璞玉下令清軍全力進剿海沙子，並通知張作霖協同作戰。這場大火拼官軍大獲全勝，擊斃匪首海沙子及其同夥四十餘人。張作霖在此戰中表現十分英勇，拼死力戰，腿上還中了一槍。
1902年11月19日，新民知府增韞代表官府收編了張作霖的隊伍，成立一支二百五十人的巡警前營馬隊，張作霖任馬隊幫辦，因為幫帶暫時空缺，張作霖成為了這支隊伍的實際控制者。
張作霖是個悟性極強，他清楚增韞是他的頂頭上司，如果不抓住這棵大樹，什麼事也辦不成。他還知道，目前增大人最大的煩惱，就是遍地的土匪，只要把這件事辦漂亮，就一定能取得增大人的信任和支持。
在新民府有令人聞之色變的五股土匪，對於這些殺人不眨眼的悍匪，增韞非常頭疼，哄也不是，打也不是，束手無策。這一切，自然逃不過張作霖的眼睛。他主動請纓，要收拾五股土匪。
他和增韞仔細研究，設了一個圈套。過了幾天，府衙的文書發到五大土匪，通知他們到新民府招安受賞。有了張作霖的先例，幾個大當家的帶著自己的貼身保鏢，大搖大擺地進了新民府。結果三個匪首被當場擊斃，其餘兩個被活捉，投入大牢。張作霖趁熱打鐵，將五大土匪的人馬迅速肢解，從中挑選了一些精幹的土匪，加入了自己的隊伍。這幫悍匪經營多年，有的是金銀財寶，張作霖把好東西都收到自己的腰包里。這件事辦得乾淨漂亮，增韞非常滿意，對張作霖更加依賴。很快，張作霖在新民府成為享譽一時的人物。
1904年，東北的大地上傳出激烈的槍炮聲，小日本和老毛子幹起來了！
張作霖利用手中的權力，偷偷地給俄國人提供一些糧食和情報，有時候還派手下的弟兄裝扮成土匪去搶日本人的東西。名義上是幫助老毛子，實際上好東西都揣進了自己的腰包。他還充當雙面間諜，俄國人有什麼動靜，也給日本人通通氣。
隨著戰爭的發展，小日本漸漸占了上風。最後，小日本挖出了張作霖，這個打著中立旗號的小個子和俄國人很有一腿。終於
