控制了江、荆二州的桓玄自以为已经拥有了东晋三分之二的疆土，所以多次让人呈上他可以做君主的天命符征和吉兆，打算用这些来迷惑百姓，又给会稽王司马道子写信说：“孙恩那些盗贼，上次逼近京城的近郊，因为风不顺才没有能够攻打进来，又因为天降大雨，所以没有机会运用火攻，在粮食吃完之后，自然便回去了，并不是因为力量不足。过去，王国宝死了以后，王恭并没有乘势去统领朝廷的政务，这就完全可以看出他的居心，对您没有丝毫的不敬和侮辱。但是，您却说他不忠。现在朝中的权贵要员中，享有美誉的是谁呢?怎么可以说是没有更好的人才呢?只是您不能信任罢了!正是因为这样日复一日，才酿成了今天的祸患。在朝廷的那些王公大臣们因为害怕大祸临头，所以不敢说实话，桓玄我有愧远在外地任职，才有胆量揭露这样的事实。”
司马元显看到了这封信，又气又怕。
张法顺对司马元显说：“桓玄凭借他家的名望和资历，素有豪气，已经吞并了殷仲堪和杨佺期，自己独霸了荆楚一带的广大地区，但是您所能控制的真正可以算做属于您的疆界，也不过三吴之地罢了。孙恩制造祸乱，使东部地区损失巨大，一片荒芜，朝廷、百姓积蓄枯竭，生活窘况，桓玄一定会乘机大肆施展他的奸恶凶残的手段，实现他的阴险目的，我认为这是值得我们忧虑的一件事情。”
司马元显说：“那我们能怎么办?”
张法顺说：“桓玄刚刚把荆州强占到手，当地百姓的人心和情感还没有完全归附他，因此，他也正在努力平定局势，安定民心，没有功夫考虑别的事。如果乘着这个时机派遣刘牢之为前锋，您随后亲自带领大部队进发征剿，那么，桓玄一定可以被我们消灭的。”
正好，武昌太守庾楷因为桓玄与朝廷要结下仇怨，担心事情以后不成功，大祸会牵连自己，所以偷偷地派人前来，主动向司马元显投靠，说：“桓玄非常不得人心，他的部下也不太听从他的命令，如果朝廷这时派军队去征讨，那么我一定做内应。”
司马元显非常高兴，马上派遣张法顺到京口去，找刘牢之商量，刘牢之却觉得征讨桓玄有困难。张法顺回来对司马元显说：“我观察刘牢之的表情言谈，一定是与我们有二心，所以不如把他召到京城来杀掉，如果不这样，他就会坏了我们的大事。”
司马元显没有听他的话，只是从此开始大规模训练水上部队，征选兵卒，装备战舰，准备用来对桓玄发动进攻。
第二年正月，朝廷颁下诏书，历数了荆州刺史桓玄的罪状，任命司马元显为骠骑大将军，都督十八州诸军事，又任命刘牢之为前锋都督，司马尚之统率后卫部队，内外戒严，准备前去讨伐桓玄。
司马元显想借此机会把桓氏家族的人全部杀光，中护军桓修是王诞(王导的曾孙)的外甥，王诞又很得司马元显的信任，他向司马元显禀告了桓修等人与桓玄的志趣完全不同，司马元显才放弃了那个想法。
张法顺又对司马元显建议说：“骠骑司马桓谦兄弟常常当长江上游荆州方面的耳目，为桓玄提供情报，应该把他们斩了，来杜绝今后类似奸计阴谋的发生。而且此次出军讨伐桓玄，能否达到预期目的，关键就在于前锋部队的表现。刘牢之为人反复无常，万一他那里发生什么变化，我们就会大祸临头，所以，您可以让刘牢之去杀掉桓谦兄弟，来证明他和我们没有二心，如果他不接受命令，那么我们也好防患于未然。”
司马元显不以为然地说：“现在如果没有刘牢之，我们根本没有人可以与桓玄对敌，况且刚开始准备发兵，便诛杀自己的大将，容易使人心不得安宁。”一而再、再而三地拒绝张法顺的请求，不加允许。
他又因为桓氏家族世代都得到荆州一带居民的归附，桓冲尤其是为那里的百姓留下了很多好处，而桓谦又是桓冲的儿子，所以把桓谦调任去都督荆州等四州诸军事及荆州刺史，打算用这种方法收买西部地区百姓的人心。
东部地区由于遭受孙恩所导致的战乱的影响，再加上灾荒年景，百姓饥饿贫困，水路的粮食运输不能继续。桓玄趁机紧闭断绝了长江通道，致使官府和私人间的物资积蓄全部空乏，部队也只能用一些粮食的麸皮和橡树的果实给士兵充饥。
桓玄知道朝廷正处在多事之秋，值得忧虑的事情很多，估计他们一定没有闲暇来讨伐自己，因此，可以趁此机会积蓄力量，等待时机。等到朝廷征讨他的大部队就要出发的时候，他的堂兄桓石生秘密地用书信告诉了他这个消息，桓玄大吃一惊，打算把部队全部集结到江陵来据守。
长史卞范之劝谏说：“明公的威名振于远近，司马元显却是个乳臭未干的小孩子，刘牢之已经非常丧失民心了，如果我们把大部队抢先开拔到建康附近的地区，向他指明安危祸福，那么，他们土崩瓦解的趋势就在眼前了。怎么能把敌人引进自己境内的心腹重地，自找麻烦呢?”
桓玄听从了他的话，留下桓伟镇守江陵，向朝廷呈上奏表，并把檄文公告传遍各地，揭露司马元显的各种罪行，同时挥师向东部进发。
檄文传到都城建康，司马元显看到后，非常害怕。到了二月，晋安帝为司马元显饯行，司马元显由于害怕桓玄，虽然硬着头皮登上了战船，却没有马上出发。
而桓玄从江陵出发后，也时刻在担心这次大规模军事行动不能取胜，因此，已经做好了随时向西撤退回军的打算，一直等到他的部队过了寻阳，还没有看见朝廷的军队，桓玄心中非常高兴，其他将士的斗志和士气也振作、旺盛起来。
庾楷做朝廷内应讨伐桓玄的阴谋泄露，桓玄把他囚禁了起来。
东晋朝廷派遣齐王司马柔之持驺虞幡到荆州、江州两地及军中展示，告谕他们赶快停止军事行动，结果被桓玄的前锋将领给杀了。
桓玄抵达了姑孰后，派遣冯该等人进攻历阳。司马休之据城坚守，桓玄的部队切断了洞浦道路，焚烧了豫州的舰船。
豫州刺史司马尚之率领步兵九千多人，在洞浦之上摆开战阵，派遣杨秋驻扎在横江，但杨秋却投降了桓玄的部队。司马尚之的部队立刻溃散，他自己也逃到涂河之中，被桓玄抓获。司马休之出城迎战失败，只得放弃城池逃走。
