从杨勇被废、杨广为储君之时，杨谅就已经预感到自己未来处境不妙，早已借防备突厥为由在晋阳大举整军，发展自己的私人武装。自蜀王杨秀被废为庶人之后，杨谅做为被利用的当事人之一，当然比糊涂老爹杨坚更快地明白了其中的奥妙。当隋文帝杨坚驾崩、炀帝即位并传召的诏书下达之后，杨谅便做出了起兵的决定。然而在实际的战斗过程中，杨谅优柔寡断，根本不是老狐狸杨素所率的“政府军”的对手，最终一败涂地，被迫投降。

杨谅投降后，杨广倒还要装一装“手足之情”的门面，并没有立即处死他，只是除籍为庶人幽禁起来。倒霉的是并州官民，共有二十万户被牵连，或被处死或被流放。

杨谅和并州闹成这个样子，受杨谅举荐的并州人氏武士彟自然也落不了好去。宰相杨素早已看他不顺眼，这时便想趁机将他编进杨谅党徒一刀两段。总算武士彟命不该绝，在观王杨雄和牛弘等人的救护下总算逃离了京城，平安返乡。

受了这一场大惊吓的武士彟不敢轻易露面，躲在山林郊野之中，摆出一副吟游修道的姿态。

常言道，靠山吃山，靠水吃水，武家的祖先虽然曾经富过，但是随着时间的推移，后世子孙未见得处境有多好，因此很有可能在武士彟之前武家就已经开始了农商生涯，而大发迹则应是在这一时期，武士彟的木材生意做得规模很大，动辄就是“数万茎”，成为巨富。

武士彟当然不会以经营木材生意为满足，这只是他的权宜之计而已。据《太原事迹》记载，武士彟和自己的生意伙伴许文宝常在林间读书，尤喜兵法，自诩为“厚材”，常说自己终有出人头地大贵的一天。

隋大业七年（公元611），武士彟终于等到了重出江湖的机会。他首先是为避祸来到河北道总管府从司任骑司参军，随后又在杨玄感之乱中好好地实践展现了一把自己多年研读兵书的心得体会，立下军功晋升为“晋阳宫留守府司铠参军”。当然，他的这个中层军官身份也很有可能是大笔银子买来的功名，但是他在这个位置上做出来的事迹足称大手笔，绝非普通富翁所能企及。

当时的隋王朝，连年兴兵失利，已经开始出现了亡国之兆。武士彟多年研究兵法，又一向自诩“状貌非常”，于是留意兵事，将上至黄帝下至当时的战事谋略及成败缘由辑录成书，写出了共计三十卷的《古今兵要》。

既然财才兼备，接下来的事情就是要“货与帝王家”了。武士彟环顾四周，最后认定时任并州留守的隋王朝外戚重臣唐国公李渊“雄杰简易，聪明神武，此可与从事也”。下定决心将身家性命都押在了李渊的身上。他跟随李渊多次出征，将自己巨额的家产都任由李渊使用，还将自己所著的兵书献给李渊，很快就成了李渊的心腹部属，也是最早劝李渊起兵的开国元老之一。