楚庄王的孙子楚平王即位，楚国渐渐衰落了。公元前522年，楚平王原的太子建废掉。候，太子建他的老师伍奢正在城父（在河南襄城西）镇守。楚平王怕伍奢不同意，先伍奢叫，诬说太子建正在谋反。
伍奢说什不承认，立刻被关进监狱。
楚平王一面派人杀太子建，一面又逼伍奢写信给他的两儿子伍尚伍子胥，叫他回，便一除掉。儿子伍尚回郢（今湖北江陵西北），就跟父亲伍奢一，被楚平王杀害。太子建先听风声，带着儿子公子胜逃宋国了。
伍奢的另一儿子伍子胥，从楚国逃，他赶宋国，找了太子建。不巧宋国生内乱，伍子胥又带着太子建、公子胜逃郑国，请郑国帮他报仇。是郑国国君郑定公有同意。
太子建报仇切，竟勾结郑国的一些臣夺郑定公的权，被郑定公杀了。伍子胥带着公子胜逃郑国，投奔吴国（城在今江苏苏州）。
楚平王早就令悬赏捉拿伍子胥，叫人画了伍子胥的像，挂在楚国各的城门口，嘱咐各官吏盘查。
伍子胥带着公子胜逃郑国，白躲藏，晚赶路，吴楚两国界的昭关（在今安徽含山县北）。关的官吏盘查很紧。传说伍子胥一连几夜愁睡不着觉，连头愁白了。幸亏他遇了一人，叫东皋公，东皋公同情伍子胥，他接己。东皋公有朋友，模有点像伍子胥。东皋公让他冒充伍子胥关。守关的逮住了假伍子胥，那真伍子胥因头全白，面貌变了，守关的认不，就被他混关。
伍子胥了昭关，害怕面有追兵，急忙往前跑。前面有一条江拦住路。伍子胥正在着急，江有打鱼的老头儿划着一船，伍子胥渡了江。
了江，伍子胥感激万分，摘身的宝剑，给老渔人，说：“宝剑是楚王赐给我祖父的，值100两金子。现在送给你，歹表表我的意。”
老渔人说：“楚王了追捕你，了5万石粮食的赏金，答应封告人夫爵位。我不贪图赏金、爵位，难你宝剑吗？”
伍子胥连忙向老渔人赔礼，收了宝剑，辞别老渔人走了。
伍子胥了吴国，吴国的公子光正夺取王位。在伍子胥帮助，公子光杀了吴王僚，立王。就是吴王阖闾。
吴王阖闾即位，封伍子胥夫，帮助他处理国。
公元前506年，吴王阖闾拜孙武将，伍子胥副将，亲率领军，向楚国进攻；他连战连胜，楚国的军队打一败涂，一直打郢。