755年，安禄山发动叛乱，第二年六月，叛军攻陷潼关，进逼长安，唐玄宗逃出长安，行至马嵬坡时，禁军哗变，围攻行宫，杨国忠、杨玉环等人尽皆被杀。当时，与杨国忠一同扈从在玄宗左右的宰相韦见素也被乱兵打伤，幸亏禁军将领陈玄礼出手相救，才幸免于难。关于韦见素为什么能够当上宰相，存在两个版本的传说。

　　一个说法是他被杨国忠所提拔。韦见素既是名门之后，又是进士出身，李隆基做相王时他曾在王府任职，可说是皇帝身边的老人。他处事公道，工作认真，在中央与地方均有工作经历。750年，韦见素任吏部侍郎，他生性仁恕，主持考选多年，行事公允，深受称赞。

　　754年(天宝十三年)，京师大雨，引发水灾。唐玄宗认为这是因为宰相失职，上天才降下凶兆，便罢免了左相陈希烈，命右相杨国忠选取继任者。杨国忠找了一圈，认为韦见素性格柔顺，容易控制，便举荐韦见素为相。唐玄宗也因韦见素曾任职相王府，同意韦见素拜相。韦见素因此对杨国忠非常感激，走的很近，以至于在马嵬坡几乎命丧黄泉。

　　还有一个说法就非常有戏剧性了，是说他走了大太监高力士的门子。有一天，唐玄宗做了一个梦，梦见自己从宫殿上跌下，幸亏有个孝子及时把他扶住，又把他扶了上去。玄宗梦醒后便告诉了高力士。高力士便借机发挥，说道："孝子身上穿的是素衣，这孝子是指韦见素呵。"玄宗深感有理，几天之后便把韦见素从吏部侍郎提拔为宰相。

　　此事当然有演绎成分，只能说明韦见素与杨国忠、高力士关系都不错，不过巧合的是，这个梦此后还真应验了。安史之乱前，韦见素多次苦谏防备安禄山，但唐玄宗不听，后来唐玄宗被迫离开长安(这也就是所谓从宫殿上掉下来吧?)，逃亡蜀地之时，韦见素一直跟在身边。后来皇太子李亨在灵武继位称帝，是为唐肃宗，但由于路途遥远，音讯不通，唐玄宗直到八月才知道，遂命宰相韦见素与房管前往灵武，正式册立李亨为帝。后来唐肃宗返回长安，决定派人到蜀地迎接唐玄宗回京城，当时派出的迎接使者就是韦见素。唐玄宗回到长安后，韦见素因保护玄宗之功，加封开府仪同三司，食实封三百户。