初，杨素尝以少谴敕送南台，命治书侍御史柳彧治之。素恃贵，坐彧床。彧从外来见之，于阶下端笏整容谓素曰：“奉敕治公之罪！”素遽下。彧据案而坐，立素于庭，辨诘事状。素由是衔之。蜀王秀尝从彧求李文博所撰《治道集》，彧与之；秀遗彧奴婢十口。及秀获咎，素奏彧以内臣交通诸侯，除名为民，配戍怀远镇。
杨素弟约及从父文思、文纪、族父忌并为尚书、列卿，诸子无汗马之劳，位至柱国、刺史；广营资产，自京师及诸方都会处，邸店、碾硙、便当田宅，不成胜数；家僮数千，后庭妓妾曳绮罗者以千数；第宅华侈，制拟宫禁；亲故吏布列清显。既废一太子及一王，威权愈盛。朝臣有违忤者，或至诛夷；有附会及亲戚，虽无才用，必加进擢，朝廷靡然，莫不畏附。敢与素抗而不桡者，独柳彧及尚书右丞李纲、大理卿梁毗罢了。
太子阴作偶人，缚手钉心，桎梏杻械，书上及汉王姓名，仍云“请华山慈父圣母神兵收杨坚、杨谅神魂，如此形状，勿令散荡。”密埋之华山下，杨素发之；又云秀妄述图谶，称京师妖异，造蜀地征祥；并作檄文，云“指期问罪”，置秀集合，俱以闻奏。上曰：“天下宁有是邪！”十仲春，癸巳，废秀为庶人，幽以内侍省，不听与老婆相见，唯獠婢二人差遣，连坐者百馀人。秀上表摧谢曰：“伏愿慈恩，赐垂矜愍，残息未尽之间，希与瓜子相见；请赐一穴，令骸骨有所。”瓜子，其爱子也。上因下诏数其十罪，且曰：“我今不知杨坚、杨谅是汝何亲？”后乃听与其子同处。
著作郎王劭上言：“佛说：‘人应生天上及生无量寿国之时，天佛放大光亮，以香花妓乐来迎。’伏惟大行皇后福善祯符，备诸秘记，皆云是妙善菩萨。臣谨案八月二十二日，仁寿官内再雨金银花；二十三日，大宝殿后夜有神光；二十四日卯时，永安宫北有天然各种音乐，震满虚空；至夜五更，奄然如寐，遂即升遐，与经文所说，事皆符验。”上览之悲喜。
帝使司农卿赵仲卿往益州穷案秀事，秀之来宾颠末之处，仲卿必深文致法，州县长吏坐者太半。上觉得能，犒赏甚厚。
蜀王秀至长安，上见之，不与语；明日，使使切让之。秀赔罪，太子诸王流涕庭谢。上曰：“顷者秦王糜费财物，我以父道训之。今秀蠹害生民，当以君道绳之。”因而付法律者。开府仪同三司庆整谏曰：“庶人勇既废，秦王已薨，陛下见子无多，何至如是！蜀王性甚廉洁，今被重责，恐不自全。”上大怒，欲断其舌，因谓群臣曰：“当斩秀于市以谢百姓。”乃令杨素等推治之。
厥后上亦浸疏忌素，乃下敕曰：“仆射国之宰辅，不成躬亲细务，但三五日一贯省，批评大事。”外示优崇，实夺之权也。素由是终仁寿之末，不复通判费事。出杨约为伊州刺史。
始，毗为西宁州刺史，凡十一年，蛮夷酋长皆以金多者为豪隽，递相攻夺，略无宁岁，毗患之。后因诸酋长相帅以金遗毗，毗置金坐侧，对之恸哭，而谓之曰：“此物饥不成食，寒不裁缝，汝等以此相灭，不成胜数，今将此来，欲杀我邪！”一无所纳。因而蛮夷感悟，遂不相进犯。上闻而善之，征为大理卿，处法平允。
玄月，壬戌，置常平官。
久之，贝州长史裴肃遣使上书，称：“高飃以天挺良才，功臣佐命，为众所疾，乃至烧毁；愿陛下录其大功，忘其小过。又二庶人获咎已久，宁无革心！愿陛下弘君父之慈，顾本性之义，各封小国，观其所为：若能迁善，渐更增益；如或不悛，贬削非晚。今者改过之路永绝，愧悔之心莫见，岂不哀哉！”书奏，上谓杨素曰：“裴肃忧我家事，此亦至诚也。”因而征肃入朝。太子闻之，谓左庶子张衡曰：“使勇改过，欲何为也？”衡曰：“观肃之意，欲令如吴太伯、汉东海王耳。”肃至，上面谕以勇不成复收之意而罢遣之。肃，侠之子也。
观州长史元弘嗣迁幽州长史，惧为荣所辱，固辞。上敕荣曰：“弘嗣杖十已上罪，皆须奏闻。”荣忿曰：“竖子何敢玩我！”因而遣弘嗣监纳仓粟，扬得一糠一秕，皆罚之。每笞虽不满十，然一日当中，或至三数。如是积年，怨隙日构。荣遂收弘嗣付狱，不准其粮，弘嗣抽衣絮杂水咽之。其妻诣阙称冤，上遣使按验，奏荣残暴，赃秽狼籍；征还，赐死。元弘嗣代荣为政。酷又甚之。
及太子勇以谗废，晋王广为太子，秀意甚不平。太子恐秀终为后患，阴令杨素求其罪而谮之。上遂征秀，秀踌躇，欲谢病不可。总管司马源师谏，秀作色曰：“此自我家事，何预卿也！”师垂涕对曰：“师忝参府幕，敢不经心！圣上有敕追王，以淹时月，今乃拖延未去。百姓不识王心，倘生贰言，表里疑骇，发雷霆之诏，降一介之使，王何故自明？愿王熟计之！”朝廷恐秀生变，戊子，以原州总管独子瓜楷为益州总管，驰传代之。楷至，秀犹未肯行；楷讽谕久之，乃就路。楷察秀有悔色，因勒兵为备；秀行四十馀里，将还袭楷，觇知有备，乃止。
上令上仪同三司萧吉为皇后择葬地，得吉处，云：“卜年二千，卜世二百。”上曰：“休咎由人，不在于地。高纬葬父，岂不卜乎！俄而国亡。正如我家墓田，若云不吉，朕不当为天子；若云不凶，我弟不当战没。”然竟从吉言。吉退，告族人萧平仲曰：“皇太子遣宇文左率深谢余云：‘公前称我当为太子，竟有其验，终不忘也。今卜山陵，务令我早立。我立以后，当以繁华相报。’吾语之曰：‘后四载，太子御天下。’若太子得政，隋其亡乎！吾前绐云‘卜年二千’者，三十字也；‘卜世二百’者，取世二传也。汝其识之！”
太子问于贺若弼曰：“杨素、韩擒虎、史万岁皆称良将，其好坏何如？”弼曰：“杨素虎将，非谋将；韩擒虎斗将，非领将；史万岁骑将，非大将。”太子曰：“但是大将谁也？”弼拜曰：“唯殿下所择！”弼意自许也。
玄月，丙戌，上至自仁寿宫。
闰月，甲申，诏杨素、苏威与吏部尚书牛弘等修定五礼。
突厥步迦可汗所部大乱，铁勒仆骨等十余部，皆叛步迦降于启民。步迦众溃，西奔吐谷浑；长孙晟送启民置碛口，启民因而尽有步迦之众。
是岁，龙门王通诣阙献《承平十二策》，上不能用，罢归。通遂传授于河、汾之间，弟子自远至者甚众，累征不起。杨素甚重之，劝之仕，通曰：“通有先人之弊庐足以蔽风雨，薄田足以具餍粥，读书谈道足以自乐。愿明公道身以治天下，使时和岁丰，通也受赐多矣，不肯仕也。”或谮通于素曰：“彼实慢公，公何敬焉？”素以问通，通曰：“使公可慢，则仆得矣；不成慢，则仆失矣：得失在仆，公何预焉！”素待之如初。弟子贾琼问息谤，通曰：“无辩。”问止怨，曰：“不争。”通尝称：“无赦之国，其刑必平；重敛之国，其财必削。”又曰：“闻谤而怒者，谗之囮也；见誉而喜者，佞之媒也；绝囮去媒，谗佞远矣。”大业末，卒于家，门人谥曰文中子。
仁寿三年癸亥，公元六零三年秋，八月，壬申，赐幽州总管燕荣死。荣性严格，鞭挞摆布，动至千数。尝见道次丛荆，觉得堪作杖，命取之，辄以试人。人或自陈无罪，荣曰：“后有罪，当免汝。”既而有犯，将杖之，人曰：“前日被杖，使君许以有罪宥之。”荣曰：“无罪尚尔，况有罪邪！”杖之自如。
八月，甲子，皇后独孤氏崩。太子对上及宫人哀恸绝气，若不堪丧者；其处私室，饮食谈笑如平常。又，每朝令进二溢米，而私令外取肥肉脯鲊，置竹桶中，以蜡杜口，衣袱裹而纳之。
毗见杨素擅权，恐为国患，乃上封事曰：“臣闻臣无有作威作福，其害于而家，凶于而国。窃见左仆射越国公素，幸遇愈重，权势日隆，搢绅之徒，属其视听。忤旨者严霜夏零，阿旨者甘霖冬澍；荣枯由其唇吻，废兴候其指麾；所私皆非忠谠，所进咸是亲戚，后辈布列，兼州连县。天下无事，容息异图；四海有虞，必为祸始。夫奸臣擅命，有渐而来，王莽资之于积年，桓玄基之于易世，而卒殄汉祀，终倾晋祚。陛下若以素为阿衡，臣恐其心一定伊尹也。伏愿揆鉴古今，量为措置，俾洪基永固，率土幸甚！”书奏，上大怒，收毗系狱，亲诘之。毗极言“素擅宠弄权，将领之处，殛毙无道。又太子、蜀王罪废之日，百僚无不震竦，唯素扬眉奋肘，喜见容色，利国度有事觉得身幸。”上无以屈，乃释之。
壬寅，葬文献皇后于太陵。诏以“杨素运营葬事，勤求吉地，论素此心，事极诚孝，岂与夫平戎定寇比其功业！可别封一子义康公，邑万户。”并赐田三十顷，绢万段，米万石，金珠绫锦称是。
素既被疏，吏部尚书柳述益用事，摄兵部尚书，参掌奥妙；素由是恶之。
冬，十月，癸丑，以工部尚书杨达为纳言。达，雄之弟也。
交州俚帅李佛子反叛，据越王故城，遣其兄子大权据龙编城，其别帅李普鼎据乌延城。杨素荐瓜州刺史长安刘方有将帅之略，诏以方为交州道行军总管，统二十七营而进。方军令严厉，有犯必斩；然仁爱士卒，有疾病者亲临抚亲，士卒亦以此怀之。至都隆岭，遇贼，击破之。进军临佛子营，先谕以祸福。佛子惧，请降，送之长安。