张士诚的地盘以长江为界，分为两部分。江南的浙西地区防守比较坚固，而江北的淮东地区防守则相对薄弱。朱元璋东征张土诚，采用先北后南的策略。元至正二十五年（）秋天，徐达受命为总兵管，统率常遇春、胡美、冯胜等将，带领步、骑、水军，渡江北上，进攻淮东地区。

徐达率军很快攻克泰州，活捉守将严再兴等人。然后，分兵命部将刘杰攻取兴化，他自己进兵包围高邮。朱元璋担心徐达深入敌境，无人策应，便命其退回泰州，先攻取淮安、濠州和泗州（今江苏盱眙）。

张土诚为了分散牵制江北的朱元璋军队，出兵攻击江南的宜兴。朱元璋命徐达渡江还击，打退了张士诚的军队，生俘敌士卒三千余人。然后，徐达又还兵江北，攻打高邮。

徐达从江南回师后，经朱元璋同意，以孙兴祖守海安，常遇春统水军为继援，自己与冯国胜一起，很快攻克高邮城，杀死守将俞同佥等人。

高邮既克，朱元璋派使者告喻徐达，乘胜取淮安。

徐达挥兵围城。淮安守将梅思祖等人看到形势严峻，遂开城投降，并献出所辖的泗州。随后，徐达又进兵攻取兴化。这样，淮东地区便基本平定了。

在朱元璋召集文武大臣的议事会上，徐达主张道：“张士诚等人骄傲而且反复无常，暴敛民众，荒淫奢侈，这是上天要使他们灭亡。他所任用的骁将李伯升、吕珍之徒，都是卑劣小人，依靠手中兵将追求富贵享乐。执掌政务的黄敬天、叶德新、蔡彦文三人，都是迂阔书生，胸无大计。我愿奉主上威德，率精锐之师出师，声讨兵伐，三吴之地可计日平定。”

朱元璋听后大喜道：“你的想法与我完全相合。这样的话，大事一定能够成功。”

七月，左相国徐达受命为大将军，平章常遇春为副将军，统领二十万大军，出太湖直取湖州（今浙江吴兴）。根据朱元璋“先分其势”的策略，同时由李文忠、华云龙带兵攻杭州和嘉兴。