吴俊升，字兴权，1863年11月21日(清同治2年10月11日)生于今辽宁省昌图县老城乡长青村兴隆沟一个贫苦农家。祖籍山东历城，其祖父吴天福渡海来东北，在昌图落了户。父吴玉，母李氏，有子女8人，吴俊升行二，身下有两个弟弟，三弟吴俊武，小弟吴俊卿。吴俊升为人粗鲁，五短身材，其貌不扬。走起路来摇头摆尾，没等说话先流口水。说话吐字不清，唔唔半天不能成语，为此留下笑柄，人送绰号“吴大舌头”。
吴俊升
七八岁时，吴俊升就给当地王大店家放牧牛马，年得白银一二两，补贴家中以维持生活。每天天色微明就手提长鞭赶着畜群放牧在原野上，夜幕降临时才找畜群回到主人家。这个穷“马倌”衣衫褴褛，流着两筒过海的大鼻涕，吃饭时伙计都不愿挨着他。吴俊升只有一条露肉的裤子，换洗时只好躲在水泡子里遮盖。吴很会殷勤服侍店主人，故得厚爱，遂收其为义子。吴俊升因长期放马而习马性，有过硬的马术功夫，为其后来从事马的经纪人奠定了基础。吴俊升的牧童生涯一直持续到13岁，后经人介绍进入老四平街“庆丰当铺”当徒工，其间，吴常因点小事与人争吵，甚至动刀行凶，更为严重的是，曾在旧历正月，当铺里办高跷秧歌，吴扮丑角，在队伍中横冲直撞，用小刀在伙伴的屁股上乱捅乱划，惹起众怒。数月后被主人解雇回家。吴俊升回到兴隆沟，给李润家做“半拉子”。夏季农活很累，吴俊升晚上常常露宿在大车铺板上。一天晚上，李润从屋里出来，天黑看不清，以为车上趴着一只大黑熊，被吓得拔腿就跑，从此“黑熊显相”的讹传不胫而走。
>常荫槐公馆（常荫槐公馆大东文体产业有限公司）
吴俊升迫于生计，浪迹贩马市场习相马业，充当马贩子经纪人。后又置身军旅，投效到辽源捕盗营，年17岁。最初在捕盗营当一名伙夫，因他既习马性又善骑射，不久就当上了管理军马的马夫。20岁那年，在义父王大店家资助马鞍具，李润家供给一匹马的情况下，才真正当上了一名正式骑兵。后来吴俊升发迹后，不忘李家大恩大德，为其挂牌匾一块。吴俊升当上骑兵后，由于他善用马，精力充沛，劲头很足，还是受到上司和同伴的喜爱。24岁时升为什长。(相当于班长)这时的吴俊升仍是一贫如洗，没有办法，只好利用自己习马性的特长，干起业余相马业来。驻地郑家屯是蒙古马的交易市场，吴俊升经常出入马店和交易市场，为买卖的双方做中介人，成交后得一定的好处。吴俊升到34岁时，当上了相当于连长的“把总”。1897年，吴俊升以“把总”的身份带队讨伐了海龙、通化地区的土匪，因功补缺守备，又越一级补缺为都司后补。1906年2月，清军绿营改制，吴被任命为后路巡防队副统领官。1907年，因出征讨伐吉林的土匪有功，又被晋升为参将候补。1908年8月，升任奉天后巡防队统领官，因讨伐峰密山土匪有功被破格擢升为副将候补，并被授予“勇字”称号。
腐朽的清政府为了维持日暮途穷的反动统治，对内蒙人民加紧搜刮，在内蒙东部大肆招垦，引起内蒙人民抗垦斗争，沙俄乘机利用内蒙民众同清廷的尖锐矛盾，派特务在抗队伍中挑拨民族关系，收买民族败类，策划叛国活动，当时混入抗垦队伍里的陶克陶胡(郭尔罗斯前旗一个没落贵族)就是投靠沙俄的一个首匪。这个坏蛋早在日俄战争前就同蒙族沙俄特务相勾结。日俄战后，他们继续为非作歹，扰乱地方。东三省总督徐世昌为剿叛国蒙匪，先后派洮南府巡捕队和吴俊升所部巡防营前往剿捕，均未平息。1908年，徐世昌又特调张作霖进驻关家屯，攻打陶克陶胡。
同年夏，张作霖率部来到郑家屯，吴俊升进入军界早于张作霖，驻防郑家屯多年，以地头蛇自居，因此对张作霖此行甚为反感，初不准张作霖部入城。适逢雨季，张作霖的巡防营食宿发生了困难，后经交涉，吴才勉强同意入城，但在各方面仍设置障碍。张初到此地人生地不熟，只好靠拢吴，便亲自到吴府登门拜访，竟遭吴的冷遇。特别是吴俊升在举杯劝酒时说:“唔!唔!这回你来了好!这土匪向来欺侮孬兵，我吴俊升曾受命剿匪多年，收效不大，流血不少，唔!唔!你还是来了好!”尤其使张作霖愤慨的是，吴俊升当着地方绅士的面，问张作霖如何被招抚的，使张作霖当众出丑，大为难堪，无地自容。顿时周身热血沸腾，张望着吴俊升笑眯眯的眼睛，恨不得一把掐死吴俊升。可是张作霖不愧是闯荡江湖的汉子，还是强作笑脸应酬。接风宴席没有闹翻。
1911年秋，蒙古扎萨克图王乌泰叛国独立，欲乘机占领洮南一带，与俄缔约，得大宗枪弹。遂率4千蒙古骑兵，一进而陷洮南、庆州、镇东、安庆诸县。1912年初，袁世凯窃取辛亥革命胜利果实，当上临时大总统，调第20镇和23镇，合奉天巡防队击之，蒙叛军骁将除福胜、荣升，成德外，尤以陶什陶最勇悍。各路大军进剿，均末奏掳功，独吴俊升率部，自郑家屯兜击，一战而挽回颓势，8月25日，达信阳窝堡，26日克服镇东，28日至北南东南特安堡将蒙将荣升一军击破，洮南解围。嗣与吉林高凤城之23镇会师以后，蒙军始渐退去。不久，蒙古宾图王为部下及匪徒拥立，又犯洮辽。吴俊升于康平辽阳窝堡间为蒙叛军所败。辽源、西丰等地先后皆危。时俄使通牒袁世凯，不妨承认其独立，否则即和平解决。蒙匪也遣使游说，原以东古王位，任上将军，并赠军饷5万卢布相许，来诱使吴俊升上勾，吴均置之不顾。袁世凯以讨伐蒙匪至难，令赵尔巽编一师新军为征蒙之需时。吴俊升所部与左路巡防四营，成协骑兵二营，20镇1协、23镇1协同反攻，9月上旬，吴氏率部猛攻，13日击破扎萨克图王之蒙匪军，进至扎萨克图段图，火烧其王府。乌泰率眷居必弃城远遁，洮辽战役告一段落。蒙匪既平，吴俊升于同月晋升陆军少将。10月授勋王位，获四等嘉禾章，12月获三等文虎章。
1913年2月，袁世凯将奉天后路巡防队抽出一部分编成陆军骑兵第二派，吴俊升兼任师长以牵制张作霖。5月，吴加陆军中将衔。8月，外蒙军队千余人进犯辽源，被吴俊升率队击败。11月，吴俊升克复经棚(今昭乌达盟翁牛特旗境)驼罗大王各庙蒙匪暗中出力，吴俊升负伤遇险得部下梁忠甲奋カ救助，化险为夷。因功获二等文虎章，晋授三位。12月，任经棚一带守备司令官。1914年2月，吴俊升晋升陆军中将。3月兼任港辽镇守使，1915年4月4日，段芝贵率卫队到奉天上任，不久便拉拢张作霖、冯德麟、吴俊升、马龙潭等联名向北京参政院提出《变更国体请愿书)。12月，袁世凯洪宪帝制自慰之际，乃大封文武官员，封吴俊升为二等男。
1916年1月，巴布扎布所部百余人在康平县与吴俊升部交战，三名匪首被吴部擒获，4月张作霖暂时署理奉天军务，兼代巡按使，冯德麟帮办奉天军务，为奉天军政领袖。同年夏，蒙匪巴布扎布南下窜扰，7月1日，巴布扎布率匪徒三千余人，在日本大尉青柳胜敏的指挥下，向洮南方向窜扰，24日，巴自称宗社党领袖，率部攻击突泉县城。25日吴俊升与巴布扎布大战于突泉，肩部负伤，骨脊折断。26日，吴击败巴布扎布匪帮，残部向梨树郭家店方向逃窜，遂克复突泉县。10月，晋授勋二位，荣获二等嘉禾章，一等文虎章，一等宝光章。
吴俊升征剿蒙匪屡建战功，威望逐渐提高。张作霖对此颇生疑忌，怕吴压抑，乃设法向中央运动，推举马龙潭任东边道镇守使，以示控制。1917年1月，汤玉麟因与奉天警务处长王永江不睦，谋叛张作霖。吴俊升、马龙潭多方调停均未奏效。后来竟发展到要兵戎相见。在张作霖召开的27师全体团营长会议上，炮兵第二营长阚朝玺首先发言，拥张惩汤，大家皆附和，于是按着阚朝玺的提议作成决议案，每人都签字盖章，送交将军署张作霖。这时吴俊升也来见张作霖说:“若是大帅想打，吴俊升带队打前，我去揍这个兔羔子。”张作霖听后，高兴地说:“大哥你把队伍集中候命吧。”同年8月，中央骑兵第二旅及后路巡防队等改编成陆军第二十九师，吴俊升被擢升为师长。10月，吴俊升奉命率部赴黑龙江授助新上任的黑龙江省督军鲍贵卿，解除黑省步兵第一旅长巴英额、陆军骑兵第4旅旅长莫顺的兵权。
1918年8月，张作霖任东三省巡阅使。1920年10月，吴俊升获一等文虎章。其后，张作霖第二次驱逐吉督孟恩元，坐调江省督军鲍贵卿取而代之，把扩张势力的触角伸向吉林。时吴俊升正兼任东北边防总司令，率29师驻守中东路西部满洲里。吴自以为论功行赏，江省督军一席非己莫属，谁料张作霖竟委本系孙烈臣。
1921年3月，吉督鲍贵卿受张作霖排斥，以失职及疾病，至辞职之不得已，其后任即内定吴俊升。吴氏是在张作霖的庇护推荐下荣任督军，而膺省长。5月，吴俊升以王树常署理黑龙江省督军公署少将参谋长兼任步兵第22旅旅长，王氏先后二次东渡日本入士官学校、陆军大学深造，是奉军中学历最深高级将领，但其初到督军署却遭到吴俊升的冷眼相待，后来由于王树常处处小心谨慎，办事勤奋，对吴俊升也多必恭必敬，久而久之，反成了吴心目的“王葛亮”。同年6月，吴俊升加陆军上将衔。
1921年秋，吴俊升父亲吴玉病故，吴于翌年秋将其灵送回昌图县兴隆沟家乡安葬。吴俊升在其父生前就已把茔地修好。为其光宗耀祖，表示孝道，送疾队伍浩浩荡荡，36扛抬灵分作两班，用人144名，每两小时换一次，一班抬灵，另班持枪两侧护灵。吴俊升手举白灵幡，由四人抬着尾随灵后，由120组成的洋乐队，每到一村镇就奏起哀乐。20辆两套玻璃马车紧随乐队，马的颜色各车均不重样，车里坐着家眷，由70头骆驼组成的给养运输队伍殿后。送葬队伍到达目的地后又停灵七日，围观者人山人海，吊者络绎不绝。哀乐昼夜不绝于耳。讨饭者成群结队，不计其数。方圆十里八村不得安宁。吴俊升将其父安葬后，派十几名士兵常驻兴隆沟，守护茔地。1923年3月，吴俊升又从长青堡屯等附近几个村庄雇来一百多人为茔地植树。吴很迷信，看中茔地风水，不惜代价修改河道，引河水倒流。仅植树、修改河道两项竟用去一年多的时间，不知毁了当地多少良田和道路。
吴俊升自升充黑龙江省督军后，对张作霖感恩戴德，每逢年节，由江省亲身赴奉谒见张作霖，吴俊升对待张作霖本人可谓是俯首贴耳，百依百顺。身为黑龙江督军的吴俊升，每每给张作霖恭贺时都行大礼。逢年节吴送给张的子女压岁钱，遇有张不高兴，就当众训斥:“有那精神头，把地方上好好管一管，少来这一套!”吴虽难堪，仍是唯唯诺诺。吴俊升出身行伍，目不识丁，却很能领处事之道，深懂旧社会官场上逢迎周旋那套，对上恭顺，对下粗暴，凶狠，进而十分狡诈。
1922年4月，第一次直奉战争爆发，吴俊升竭力援奉。但素质极差的绿林式的奉军不堪一击，结果被打得大败。直系控制了北京政府，直系魁首吴佩孚为离间吴俊升与奉系关系，曾使北京政府任命吴俊升为奉天督军，冯德麟为江省督军。吴接电令后，即召集众将领商议，会上有人主张接受电令，万福麟则认为被要挟之命不可盲从，力主保持镇静，吴遂采纳了万的意见，回电拒之，否定了北京政府的命令，吴虽然任黑督。东北奉系遂得以巩固，因而消弭祸患于未然。6月，东三省议会令联合推举张作霖为保安总司令，孙烈臣为副司令，组织保安司令部，进联省自治，吴仍任黑龙江省保安副司令。东三省对北京政府保持半独立状态。11月，吴俊升获一等大绶嘉禾章。
第一次直奉战争，张作霖收回东北后，决心整军经武，以图东山再起，雪战败之耻，乃成立东三省陆军整理处，整训东三省陆军，统一番号，黑龙江省陆军第11旅(旅长巴英额)，第15旅长(旅长万福麟)，第17旅(旅长张明久)，第22旅(旅长石青山)，骑兵第二旅(旅长彭青山)，骑兵第4旅(旅长李冠英)、骑兵第五旅(旅长梁忠甲)。
1923年7月，窜于黑龙江省各地的，大约50名土匪头目，分别率领其匪众共约800余人，投到吴俊升的麾下，要求将他们收编。吴对这伙来投者费尽心思，经权衡后，决定将其改编成一个团队。派绿林出身现已成为吴俊升心腹的徐海亭为团长。然而，这50个土匪头目及其同伙都想为自己争得一个优越位置，为此他们闹个不休，吴俊升想“如果按我的想法强迫任命他们的话，就会引起大多数人的不满，这些头目把各自的部下都煽动起来，免不了会引起意外的不祥事件，如果要满足这些头目的要求，都当团长、营长、谁当连长、排长呢?这样下去总不是个办法”。心毒手狠的吴俊升动了杀机，干脆一不做，二不休，全部杀掉。于是一面暗地里把徐海亭叫来，面授机宜，一面佯称要向匪头目授于官职，还要亲自举行任命仪式。将其招到督军公署，卸掉他们随身武器，以看吴的自用马为由，将这些人引至厩舍旁。早已埋伏在那里的七、八十名士兵突然将手无寸铁的匪首们围将起来，并全部抓获，最后押到督军公署西门外全部枪决。800余名众匪也无一幸免。吴俊升一次杀掉这么多，恐怕在军伐史上也属罕见。
直系军伐曹馄于1923年10月5日以重金賄略当选总统，粵、皖、奉三方曾有联合倒曹吴之三角联盟，直奉双方都在做军事准备。奉系仍名“镇威军”，张作霖自任总司令，下6个军，吴俊升第5军军长。1924年6月，江浙战争爆发，揭开了第二次直奉战争的序幕，吴俊升于9月22日占领开鲁攻陷赤峰，直取喜峰口，到10月7日，热河战事即告结束。10月23日，直军将领冯玉祥、胡景翼、孙岳发动北京政变，推翻曹吴政权，12月北京执政府命吴俊升督办黑龙江省军务善后事宜。
1926年11月，奉军大将郭松龄举兵反奉，挥戈东下，直通省垣。张作霖坐困省城无兵可调，急得象热锅上的蚂蚁团团转。这时有人向张作霖进言说吴俊升按兵不动，事实并非如此。奉军在整编中，黑龙江省只编了两个师，17师和18师。到1925年10月，奉张作霖之命，万福麟17师及步兵梁忠甲第15旅出击多伦，参加对冯玉祥国民军战争，归吴俊升第五军建制。吴俊升指挥三个骑兵师和步兵第15旅，万福麟为副军长，所部第17师为第一梯队，先遣骑兵已进抵围场、锥子山等处，即接令调头向锦州方向前进，因此，当时留在黑龙江省的军队只有省防军三个旅，守卫、护路任务繁重，维护地方治安，实际是无兵可调。
正当各路骑兵进至赤峰、建平、朝阳等地集结时，吴俊升得知郭松龄倒戈反奉，又得到张作霖电令，遂即到奉。吴俊升到帅府，见周围已堆满燃烧材料，张作霖含泪对吴说:“大哥你来啦，我要走了，你在这儿同郭鬼子周旋吧!”吴见张作霖有意刺激他，边笑边说:“唔!唔!上将军，我和郭鬼子誓不两立，有他没我，有我没他，我和上将军哥俩同生同死，你先别走，我还有黑龙江骑兵，还有炮，我跟郭鬼子决一死战，我抄他的后路，”张作霖遂任命吴俊升为讨逆军总司令，激战于巨流河。
吴俊升在巨流河召开的军事会议上说:“我是老粗，不懂得红蓝铅笔在地图上怎么划，我知道两人打架，我扯谁的后腿，谁就得趴下，我带领骑兵，由辽中绕道去白旗堡，扯郭鬼子后腿去，他一定得趴下。”吴俊升于12月21日到达前线下达命令，组成以万福麟、马占山骑兵第五旅骑兵17团为突击队的先遣团。穆春骑兵14师沿前头部队行进路线跟进，张九卿骑兵第三师为予备队，在大民屯左翼誓师。吴俊升最后训话，大意是，要求大家拧成一股绳，郭鬼子来了我们都不能生存，和他决一死战。吴还说:“我出发后由梁忠甲旅长代行我的职权，上将军说了，你们都要服从指挥，唔!唔!军无戏言。”梁忠甲送吴俊升，吴边走边嘱咐说:“唔!唔!子信(梁忠甲)，官印我给你，这个时候，不管谁，不服从，毙!毙!将在外君命有所不受，军无戏言。
由于吴俊升率骑兵焚了郭松龄在白旗堡存放的军械粮秣弹药库，损失殆尽，郭松龄力穷势促，于12月24日凌晨偕夫人化装，率卫队乘大车向营口方向逃去。吴俊升策马直追，前卫部队王永清团在小苏家电摘获郭氏夫妇，解至老达房后身魏家村，郭氏夫妇授首，奉系转危为安，“吴氏功莫大焉!”
吴俊升嫉心很强，见郭氏夫妇被穆春部下王永清捕获，直接上报张作霖讨功，气得掉了眼沿，并和左右说:“唔!唔!这仗白打了!穆春这小子瞧不起我，抢了这个头功!“从此吴俊升怀恨在心。当1926年察哈尔特别行政区发生多伦事件时，吴俊升乘机将王永清部抢劫喇嘛等诸多罪行，报与张作霖，目的在于加重对穆春的处罚。果然，张作霖冷落穆春多年，使穆春饮恨终生。
1925年12月29日，张作霖在帅府召开了军事善后会议。平定郭变虽然取得胜利，但大乱初定，创伤很深，军事政治百端待理。在战争期间，张作霖为应付对方指责，曾通电罪己，表示战争结束，引咎辞职，还政于民。因而战后不得不有所表示，以符前言。此外，奉军在郭变前，已酿成新旧两派的对立局势，平郭变中，尤以吉、黑两军出力量多，特别擒获郭松龄者是黑龙江骑兵王永清，所以对旧派进行褒奖。参加这次会议的军政要员有:张作相、吴俊升、汤玉麟、杨宇霆、王永江、袁金铠、王庭五等数十人。张作霖走进会场，环视一周，然后用低沉的语调对袁金铠说:“四哥，你把通电先宣布一下，明天就发表”。袁秉意宣读，大意是:张作霖才德菲薄，招致战祸，因而引咎辞职还政于民，今年将东北政治交王水江，军事交吴俊升，军政由此二人主持，请中央派贤能前来主持东北大局，本人甘愿避路让贤。袁金铠尚未读完，吴俊升就站起来，摆手摇头说:“唔!我一天也担任不了，你不干，咱们一块儿撂下。＂王永江也接着站起来说:“永江代理一省政务也不称职，但有大帅在，我可以随时请示，才不致误国误民，现在吴督军不肯负责军事，我又不胜任政治，东北大局实在不堪设想。倘国人招致内忧外患，大帅实有负国家人民之重托。”吴俊升马上接王永江的话，说:“谁是英雄，我看我们都是狗熊，只有大帅是英雄。”几句话把在场的人都说笑了，紧张的气氛顿时化为乌有。张作霖听后喜溢眉宇，站起来说:“依大家意见，我只好勉为其难，将来有人主持东北大局，我一定避路让贤。”说到这里突然脸色一变，环顾四周说:“常荫愧来没来?”常从一角落里站了起来道:“我在这里。”张作霖正言厉色地说:“常处长(军法处)我命令你坐专车把张学良给我抓来，我自己枪毙他。你要让他逃跑了，拿你的脑袋来!”常荫槐刚想转身离去，吴俊升慌忙站起来摆摆手说:“常处长，你慢走，我有话说。”张作霖假装气冲冲地对吴说:“你有什么说的?”吴说:“过去没有张军长还将就，现在没有他一天不行，一天也不行!＂。“你胡说八道”张作霖跺着脚申斥，声震屋瓦，全场皆惊。“唔…没有张军长谁去招抚郭军散将，散兵还不算，魏益三部下还有二万人在山海关，马上和冯玉祥合了股，合了股一定要卷土重来，这股生力军，要比新民的郭军力量大上几倍，打过来奉天就不容易挺住。唔!唔!唔!现在应该赶快收编郭军败兵，马上封锁山海关，这个任务还没有张军长谁也不行。谁也办不到，唔!唔，我可不敢去，大帅也不行，非张军长不行，唔!唔!他摆手，那些人都回来了，冯玉祥啥也捞不着，那时直鲁联军才能抄冯军后路，张军长往前一挺，天津、北京就落在咱们手掌中了，到那时候，我才敢保你坐北京。”这时杨宇霆也站起来说:“请大帅息怒，还是吴督说得对，张军长现在一身系东北大局的安危，为大局……”。王永江再次站起来说:“近来大帅操劳过度，应为国家保重身体，我建议马上休会，未决问题改为另议。＂王的话音刚落，张作相、吴俊升二人趁势上前每人扶张作霖一支胳膊，拥其退席。 在处理郭变善后的另一次会议上，吴俊升坚决主张:刑乱用重，此辈叛徒，不易轻恕;将郭松龄的主要将领全部法办，永不录用。而奉军元老张作相提出与吴俊升完全相反的意见:“凡随同郭松龄反奉的将领和团级以上军官，一律从宽处理，不加株连。“张作霖采纳了张作相的意见。如果按吴俊升办法处理，奉军历史就得重新改写了。
奉系军阀统治东北，连年用兵，穷兵黩武，对人民进行残酷政治压迫和经济剥削。黑龙江省几任督军都兼省长，实行武人专制，一个比一个坏。吴俊升“其人貌似憨直，心实险诈，蒙上欺下，营私舞弊，无所不用其极。“吴俊升贪婪成性，据当时的金融界估计，他的钱财比张作霖多，在东北军阀中是首屈一指的，可他贪得无厌，利欲熏心。1926年吴俊升借给儿子吴泰勋结婚之机，来一次大搜刮。办法是给全省大大小小的官吏乃至穷乡僻壤的乡长，每人一张喜贴，所得的贺礼堆积如山，多为珠宝首饰，金银器皿或珍贵服装，至于喜幛之类的东西都很难登上大雅之堂。
1926年夏，奉军入关攻打冯玉祥的国民军，吴俊升率部相继占领了榆树、门沙口等地。7月21日，又占领了多伦，迫使国民军向远退却。不久，吴晋升陆军上将。时广州国民政府誓师北伐，吴俊升要求“保境息民”而不主张南下“讨赤”。在北伐军的沉重打击下，北方军阀作垂死挣扎。11月，吴俊升、张作相、孙传芳、张宗昌等16名将领联名通电，推举张作霖为安国军总司令。张作霖决定派奉军入豫援助吴佩孚，以直鲁联军支持孙传芳，对抗国民革命军北伐。责令吴俊升、张作相二人固守后方。同年底，张作霖就任安国军总司令进驻北京紫禁城，暗下决心不再离开北京，以实现他梦寐以求图霸中原的野心。要过一过总统、皇帝瘾。张作霖纵然野心勃勃，却孤立无援。对于张作霖的野心妄想，孙传芳、张宗昌、吴佩孚他们嘴里不说，但内心也不满。就连张作霖的亲信杨宇霆也是态度噯昧，致使张作霖左右为难。他深知要实现爬上最高统治者的宿愿，需要有一个最能理解自己又能为自己卖命的心腹出面游说，于是张想到了吴俊升。
吴俊升收到张的“即刻赴京”的电报后，马不停蹄地赶到北京，张作霖亲自到车站迎接。
张作霖陪同吴俊升游遍了古都的名胜古迹，草莽出身的吴俊升真是大饱眼福，高兴得连声:“唔!唔!”更加说不出句完整的话来。最后张作霖陪吴来到和园，吴俊升站在排云殿下，终于说出了张作霖的心里话:“唔!唔!大帅，你把我叫到北京，你那心思我全明白，唔!别看我嘴笨，你那桩大事干脆就包在我的身上吧!”张作霖听后，越发佩服吴俊升的精明。于是吴俊升在偌大的北京，到处为张游说。吴穿邸进府，摇唇鼓舌，直说得乾坤颠倒，河水倒流。
吴俊升对日本公使游说:“唔!他出身胡子可不假，可他为人正派，脑袋瓜子够用，会打仗会用人。唔!他才是我们奉军的骄傲!”吴俊升终于说服了日本公使，又去向孙传芳、张宗昌进言:“他是政治家!他凭什么问鼎中原?凭什么指挥两次直奉战争?唔!他北京政府里又没有靠山，全凭什么?唔!他全凭自己的英雄!”“唔!他是军事家!从他打郭鬼子那场硬仗起，我就看出来张作霖了不起，唔!军事大オ呀!这样的人我真恨不得捧他当上皇上!”吴俊升直说得二位连连点头称是，直说得杨宇霆哑口无言。经过吴俊升的一番周旋，众将领居然愿意推戴。
1927年6月18日，吴俊升等将领通电推举张作霖就任陆海军大元帅，组织军政府，成为北洋政府末代最高统治者。7月，废除安国军、直鲁联军、五省联军番号，统一编成陆军第一、二、三、四、五、六、七个方面军团，孙传芳、张宗昌、张学良、韩麟春、张作相、吴俊升、褚玉璞分别任军团长。张作霖为了巩固后方，确保东北社会的稳固，升任吴俊升为东三省保安总司令，成为张作霖看家护院的鹰犬。此间，他对东北各地人民反对军伐统治的斗争进行了血腥镇压。1928年1月，以通化为中心的东边道十个县的农民大刀会举行了武装暴动。消息传到北京后，张作霖为之震惊，急忙调兵遺将，令吴俊升带两个骑兵团，会同奉天警备司令齐恩铭及其巡警队前去镇压。吴使升对声势浩大的大刀会也望而生畏，大刀会自谓“一念咒语，枪弹莫穿。”犹如拳匪之言，未足信也。然其团结无畏、自信勇悍，殊足畏惧。“故讨伐军警，不易迅奏掳功”。于是，吴俊升采取反革命两面手法，剿抚并施。一方面吴率部赶到通化，组成司令部分兵进剿，并急电吉林、黑龙江两省派兵协剿，各县军警予以堵截;另一方面，利用“和谈”来麻痹大刀会，进而挑拨离间，分化瓦解。2月21日，吴根据日本特务提供情报，亲自指挥4千多军警包围了大刀会的根据地红土崖子和八道江，用重炮猛轰之后，发起猛攻，双方激战三天，军警死伤七、八百之多。但吴的军警装备精良人数众多，大刀会不敌乃突围。吴俊升俘获大刀会领袖大法师张树声、尹老道，一并杀之。吴以巨大代价攻占大刀会根据地，进行疯狂地报复，12岁以上者皆杀无赦，据不完全统计，通化临江两地大刀会成员和无辜群众三干五百余人惨遭杀害，其中十一名法师，受到惨无人道“刮斩”。有三千多间房屋同时被烧毁。
1928年5月3日，日军在济南寻衅无故枪杀中国军民四千余人，其中有些外交人员也惨遭杀害，以此来阻止蒋介石所谓北伐。这时吴俊升入京，为张作霖出谋划策，与其在京不如归奉闭关自守，以待来日。辽东虽小足以为王。当时张氏因种种原因，未听所言，后来张作军事失利，才决定撤兵出关。5月2日，张命吴俊升护送眷属回奉，6月3日，张作霖离开北京，吴闻讯后非常欣慰，欲赴山海关迎接张氏，家人及僚属等均不愿其前往。吴置之不顾，乃抵关上，与张作霖偕同归来。不意专车行至皇姑屯南满路与京奉路交叉处，遭日本关东军暗算，吴俊升被炸当场身亡，终年65岁。
昌图县东嘎镇的吴俊升墓
吴俊升是奉系军伐中仅次于张作霖、冯德麟的第三号人物。他强悍、贪婪、愚昧、荒唐、残暴集于一身，又善于弄权伪装门面，偏充斯文，吴广为搜罗字画，自己也颇喜欢画虎，虽然技法不高，但经过文人墨客的吹捧，便是画随人贵。吴还学会写一个大草虎字，别出一格，用作馈赠或签名，还真叫人无从临摹，40岁开始读《三字经》，斗大字真还认得几个。
吴俊升一生中有五种嗜好:第一是马，第二是武器，第三是鸟兽，第四是女人，第五是敛财。而对烟、酒、鸦片，一概不用。吴俊升还有一个特殊的怪癖，喜欢养猴。堂堂黑龙江省公署后院大部被马厩和猴舍所占，上等良马千余匹，大小猴子成群，有专人喂养，其费用由官家出。吴俊升常早起到马厩猴舍看马玩猴，见到了马、珍猴便眉飞色舞，一些无耻宵小趁势对吴大献殷勤，阿谀奉承，于是吴的马厩和猴舍一时成了求官行贿的场所。
吴俊升治国无术，残暴有方，有个日本人叫早川正雄的写书吹捧吴，但也不否认吴俊升是一个“对政治一窍不通。有关政治的专门知识不用说了，他甚至连从事政治的经验也完全没有…，他掌握省内的兵马大权，行政大权和对省内百姓的生杀予夺的大权，需要金钱，就课以税金，或滥发纸币，随意挥霍。”吴把全省财政预算的绝大部分用于充实军备，而对民政方面则不预重视。如吴因为自己身体健康和讨厌医生而不关心卫生事业;因为自己没受过教育则对教育事业不予理睬;因为其思想陈旧和予算不公平，使工业和交通得不到发展。他几乎年年要为奉天出兵，参加战争，花的军费也不知有多少。他为了不损害奉天的利益，经常让省库广信公司滥发纸币，使币制贬值，商业遭到很大打击。所以在吴统治黑龙江省时，“钱法毛荒，治安混乱，均驾乎辽吉之上。”省、县的重要官员，多数被吴的亲属、部下和以他为靠山的土豪、恶霸所把持。在吴的手下出现了一批被称为“赵家五虎”、“石家二兄弟”“董家三父子”、“刘家御外甥”之类的人物。
吴俊升在长期军伐混战中，发了横财，缴获了无数的战利品，中饱私囊。特别是爬上督军宝座之后，更利用权势，巧取豪夺，攫取大量的土地和财产，在当时仅次于第一号财主张作霖。但吴俊升本人并不甘示弱，有一次与张谈话，吴满嘴唾沫结结巴巴地说:“唔!唔!别看你是大帅，可我的财产比你多。”吴俊升贪财之多，土地之广，真是洋洋大观。北起齐齐哈尔、南至郑家屯铁路沿线，占有良田27万垧，对农民进行无休止地盘剥。吴还广办工商业，如齐齐哈尔广信公司、绥滨火犁公司、黑河金矿、洮南、郑家屯电灯厂以及四平的天增长机器油坊。其中有些是与人合办的，以天增长机器油坊为例，就是吴和热河都统阚朝玺合资经营的。这是四洮铁路范围内最大的一家机器油坊。该厂占地长半里，高高围墙，四角有炮台，由专职炮手守护。受雇于“天增长”的员工很多。仅吃住在油坊里的人就不下二百人，那里等级差别很大，从薪水到就餐都分成三六九等。油坊由三部分组成:一是粮栈，吴利用公款买来粮豆，经过加工，然后高价卖出，牟取暴利，每天卸粮车多达百余辆;二是钱庄，以兑换现大洋、日本金票和奉票，从中牟利，有四、五人专门办理此事;三是信托，即参加投机商们的粮价赌博活动，买空卖空。吴俊升在郑家屯还开办了一个天合长综合商号，挤占半面街。有粮栈、有当铺、内有副官办事处，两名副官为其管理。吴俊升的财产数也数不清，吴常对人夸耀说:“咱家有很多钱，东三省的人，每人平均可得一块大洋(当时东三省有三千万人，一人一块大洋钱即三千万元)。
吉林省洮南市吴俊升府邸
吴俊升建有公馆四处，奉天小河沿上坎山神庙有一处;郑家屯有号称吴家辕门的公馆一处;大连黑石礁的避暑庄园以及北京北皇城根各一处。吴俊升无论是帅府或公馆都修得十分考究而又文雅。
吴俊升升迁督军后，偶尔回发迹地一一郑家屯，时官府、店铺、学校、豪绅及乡百姓都出来夹道迎接。而这时吴俊升则走下火车，即不骑马也不坐轿，而是手托礼帽徒步前行，并拱手向乡亲父老问候，频频点头，招手向迎接的市民和学生示意，给人以谦恭之感。对欢迎的学生还赏以微薄的学习用品，如视台、镇纸之类用品，收买人心。还乡省亲时，也巡视买卖、学校，讲几句不伦不类的恭维话，对民众进行笼络。
有一点还是值得提及的，吴俊升在他帅府的财政开支中，有一笔不是很大的兴学费，在洮辽一带，确有一些子弟是借助吴的兴学费读书的，也有靠这笔钱到国外去留学的。当然这笔兴学费对吴来说是微不足道的，但在当时是达到了笼络人心的目的，不过作为一介武夫有此兴学义举也是可取的。
