據說涮羊肉本來就是宮廷美味，壹般人吃不到。直到清朝光緒年間，北京“東來順”羊肉館的掌櫃賄賂宦官，竊取了涮羊肉的調味配方，才逐漸使涮羊肉進入尋常百姓家的餐桌。
涮羊肉起源於元朝。700年前，元世祖的統帥忽必烈汗遠征南方。經過多次戰鬥，他又累又餓。於是，他命令他的人燒了火，殺了羊。就在廚子宰羊割肉的時候，偵察馬突然飛進帳內，告訴敵人大隊來追他了，只有10裏。但饑腸轆轆的忽必烈實在是太想吃羊肉了，他命令部隊掀開鬥篷，喊道:“羊肉，拿羊肉來！”“當然來不及吃燉羊肉了，可是生羊肉怎麽端上來給教練吃呢？我該怎麽辦？這時，我看到教練大步向火爐走去。炊事員們知道他脾氣暴躁，於是急中生智，切了十多片薄羊肉，在鍋裏的開水裏攪了幾下，肉包變了就立刻撈出來盛在碗裏，撒上精鹽、蔥花、姜末等調料，捧在手裏遞給剛到竈邊的教頭。忽必烈抓起肉塊送到嘴裏。壹連吃了幾碗，揮手丟碗，翻身上馬，引軍迎敵。結果取得了勝利，活捉了敵軍將領。
慶祝時，忽必烈特地點了戰前吃的羊肉片。這壹次，廚師們精心挑選了優質羊腿的“大三叉戟”和“腦上嫩肉”，切成均勻的薄片，配上芝麻醬、腐乳、胡椒粉、香蔥等調料。涮過後，鮮嫩可口，將軍們吃後贊不絕口，忽必烈更是樂不可支。廚子急忙上前說:“這道菜還沒有名字呢。請給它起個名字。”忽必烈笑著回答:“我想這叫涮羊肉。”