春秋時代，晉獻公因為寵愛驪姬，打算立驪姬所生的兒子奚齊為太子，但晉獻公早就立申生為太子，而且申生又沒有犯什麼過錯，所以沒辦法改變。

於是驪姬設計陷害太子申生，把申生給害死了。接著驪姬又慫恿晉獻公殺害另一個兒子重耳。

重耳聽到了消息便從晉國出走，直到晉獻公去世，奚齊、卓子接連著繼位，但都被大臣給殺害；直到重耳的弟弟夷吾繼位為晉惠公。晉惠公擔心哥哥重耳會回去奪取帝位，便派刺客去殺害重耳。重耳只好又開始逃亡，直到逃到楚國，楚莊王對重耳很禮遇，兩人成為很好的朋友。

有一天，楚莊王問重耳：「要是將來你能回到晉國，當上皇帝，你將要如何回報我」？

重耳說：

「珠寶、綢緞、奴隸這些你都有了，我不知道我該如何報答你」。

楚莊王接著說：

「雖然是這樣，但是總有什麼可以回報我的吧！」

重耳想了很久，回答說：

「假如有一天我真的能回到晉國，萬一有一天你我不得已需要在戰場上相見，我就退三舍」。（當時一舍為三十里）

後來重耳果真回到晉國成為晉國國君。後來因為為了援助盟國，晉楚兩軍於戰場上相見時，重耳便下令全軍後退到九十里。

後來的人根據這個故事，引申為「退避三舍」這句成語，用來形容對別人忍讓。