第二年，爨翫又反叛，蜀王杨秀弹劾史万岁受贿纵贼，致生边患，毫无大臣气节。隋文帝下令严查此事，查对属实，其罪当死，隋文帝责问他：“你接受贿赂私自放走贼寇，让士卒军马再度受到劳累。朕每想到将士们的辛苦，寝不安席，食不甘味，你这种做法难道是社稷臣该做的吗？”史万岁辩解说：“臣留着爨翫一条性命，是担心这个地方会有变故，将他留下加以镇抚。臣撤军到达泸水，诏书才到，因此没有将他押送入朝，实在不是接受了贿赂。”隋文帝见史万岁心有欺隐，大怒道：“我原以为你是个良臣，怎么如今官职大俸禄重，反而变成国贼了呢？”并对有司说：“明朝就杀掉他。”史万岁惧而服罪，向隋文帝顿首请命。左仆射高颎和左卫大将军元旻等见他已认罪，便也为他说情：“史万岁才略非同一般，每次率军作战，身先士卒，又善于抚恤将士，大家乐意为他效力，即使是古代名将也难超过他。”隋文帝听后，怒气稍解，将他削官为民，一年后，恢复官爵，授河州刺史，兼领行军总管，以防备胡人来犯。
突厥都兰可汗被部下所杀，其部落大乱。为挽救突厥颓势，达头可汗自立为步迦可汗，率兵进犯隋边。隋文帝命晋王杨广、尚书右仆射杨素出兵灵州，汉王杨谅与史万岁出兵朔州，合击步迦可汗。史万岁率柱国张定和、大将军李端、杨义臣出塞，军至大斤山，与步迦可汗军遭遇。步迦可汗派人问：“隋军主帅是谁？”侦察骑兵报告说：“是史万岁。”步迦可汗又问：“莫不是敦煌守卒史万岁？”侦察骑兵说：“是啊。”步迦确定隋军统兵将帅是当年威震敦煌的史万岁后，慌忙引军回撤。史万岁挥马追击百余里，大破突厥军，斩杀数千。又继续跟踪追入沙漠数百里，凯旋而归。
史万岁自大斤山回京后，杨素妒忌其功，在隋文帝面前谮言史万岁，说：“突厥已经投降了，况且他们本来不是入寇，只是放牧而已。”因此隐瞒了他的功劳，不予褒奖，史万岁数次上表陈述，隋文帝仍未醒悟。
此时，隋文帝从仁寿宫初还京师，并刚废掉太子杨勇，所以严防东宫结党谋变。隋文帝问史万岁在何处，其时史万岁正在朝堂，但杨素见隋文帝正怒，却故意说：“万岁拜访东宫去了。”以激怒隋文帝。隋文帝果然信以为真，立即下令召见史万岁。当时出征将士数百人在朝称冤，史万岁对众人说：“我把你们的功劳极力地陈述给皇上，事情会解决好的。”史万岁见到隋文帝后，说：“将士有功，却被朝廷所抑制！”他的语气激昂愤慨，对隋文帝也不顺从。
隋文帝越发震怒，令武士将史万岁暴杀于朝堂，史万岁死后，隋文帝追悔莫及，但为了尊严，还是下诏列出许多罪名，身死之日，全国上下得知消息的，认识或不认识史万岁的，没有一个不惋惜的，有一子史怀义。