当初，鲁肃等认为曹操雄踞北方，战乱刚刚开始，孙刘应该互相依赖，互相帮助，同仇敌忾，不可因双方利害争夺影响大局。当时，吕蒙就持有不同见解，曾向孙权献陈密计，他说：“如果现今让征虏将军孙皎据守南郡，潘璋进驻白帝，由蒋钦带领一万人的机动部队，沿长江上下巡察，敌人出现在哪里就奔赴哪里，而微臣我则为主公向前占据襄阳。像这样进行布置，还担忧曹操什么呢？还依赖关羽什么呢？再说关羽他们君臣，依仗其狡诈和力量，处处反复无常，怎么能将他们当作真心的好朋友啊！现今关羽之所以没有立即向东侵犯我们的辖境，原因就在于主公您无比圣明，我们这些将领还在世啊。如今不趁我们强壮时打他们的注意，一旦我们死了，要想在施展力量，还可能吗？”孙权深纳其策，又对吕蒙说起攻取徐州的意图，吕蒙说：“如今曹操在黄河以北，安抚平定了幽州、冀州，没有空暇顾及东面，徐州境内防守的兵士力量微不足道，只要去进攻，自然可以攻克。然而徐州的地势，只通陆路，是骁勇骑兵驰骋的地方，主公您今日得到徐州，十天内曹操就会来争夺，虽说用七八万人来坚守它，还是值得忧虑的。不如攻取关羽，占据全部长江流域，形势就会更加壮大。”孙权认为这建议更为切实可行。
及至吕蒙代替鲁肃为将，初到陆口，他便对关羽加倍殷勤，广施恩义，和关羽结下友好关系。
建安二十四年六月，刘备继取汉中后，派孟达、刘封攻占汉中郡东部的房陵、上庸等地，势力有所扩展。七月，孙权欲攻合肥，魏军大部调动淮南防备吴军。镇守荆州的关羽，抓住战机，留南郡太守麋芳守江陵，将军傅士仁守公安，自率主力北攻荆襄，上演水淹七军，俘于禁、斩庞德，直接威胁许都，一时威震华夏。
吕蒙上书说：“关羽攻打樊城而留下很多守兵，必定是害怕我袭击他后方的缘故。我时常生病，可以以治病为名，分一部分士兵和我一起回建业。关羽听说这个消息后，就会撤掉守兵，全部开赴襄阳。那时，我们的大军走水路，乘船逆流而上，乘他不备，袭取他的空虚所在，那么就可以夺得南郡，擒获关羽。”
上书后，吕蒙就声言病重，孙权则公开下达文书，召他回建业。关羽闻讯果然中计，逐渐把守备兵力调往樊城。闰十月，吕蒙奉孙权之召返回建业，途经芜湖，帐下右部督陆逊前来拜见，对吕蒙说：“关羽和您的防区相邻，为什么远远离开，以后不会为此而担忧吗？”吕蒙说：“的确如你所说，可是我病得很重。”陆逊：“关羽自负骁勇，欺压他人，刚刚取得大功，骄傲自大，一心致力向北进攻，对我军未加怀疑，不听说您病重，必然更无防备，如果出其不意，就可以将他擒服。您见到主公，应该妥善筹划此事。”吕蒙大惊，但为不泄露军机，便说：“关羽素来勇猛善战，我们很难与他为敌，况且他已占据荆州，大施恩德和信义，再加上刚刚取得很大成功，胆略和气势更加旺盛，不易对付。”
后吕蒙拜见孙权，孙权问谁可以替他在陆口指挥，吕蒙极力推荐陆逊，并说：“陆逊思虑深远，有能力担负重任，看他的气度，终究可以大用；而且他没有大名声，不是关羽所顾忌的人，没有人比他更合适了。如果用他，应该要他在外隐藏锋芒，内里观察形势，寻找可乘之机，然后向敌人进攻，可以取得胜利。”孙权遂下令，由陆逊代替吕蒙。陆逊来到陆口，马上写信给关羽，表示自己对他的仰慕，并且表示绝不与关羽为敌。关羽愈发大意。
关羽新得人马数万，粮食匮乏。关羽在为解燃眉之急，竟擅自强占东吴贮藏在湘关的粮食。孙权得知此事，觉时机成熟，便派兵袭击关羽。孙权准备任命征虏将军孙皎和吕蒙为左、右两路军队的最高统帅，吕蒙说：“如果您认为征虏将军有才能，就应任用他为统帅；若认为我有才能，就应任用我。以前，周瑜和程普为左、右部督，率兵攻打江陵，虽然事情由周瑜作决定，然而程普恃自己是老将，而且二人都是统帅，于是双方不合睦，几乎败坏国家大事，这正是现在要引以为戒的。”孙权醒悟，向吕蒙道谢说：“以你为统帅，可以任命孙皎做你的后援。”
十一月，孙权西征关羽，任命吕蒙为前部，率军隐蔽前出，进至寻阳，把精锐士卒埋伏在伪装的商船中，令将士身穿白衣，化装成商人，募百姓摇橹划桨，昼夜兼程，溯江急驶，直向江陵进袭，一切都进行得十分隐蔽和诡密。驻守江防的蜀军士兵被伪装的吴军所骗，猝不及防，全部被俘虏，江陵城内空虚，陷入混乱。吕蒙先让原骑都尉虞翻写信诱降驻守公安的蜀将傅士仁，又使傅士仁引吴军迫降守江陵的蜀南郡太守麋芳。麋芳献城出迎，吕蒙遂率大军进据江陵，从而，一举夺回蜀长期占据的荆州。而骄傲轻敌的关羽，对吕蒙的袭击行动竟一无所觉。