在随后的宁汉谈判中，蔡元培与蒋介石的政敌——汪精卫针锋相对，他联合张静江、李宗仁、吴稚晖、李石曾等，以中央监察委员会的名义弹劾汪精卫，指斥汪精卫口是心非、阻碍清共。
蒋介石的下野当然只是一时的权宜之计，他并未失去江浙财团和国民党黄埔系军官的支持。
1927年12月10日，国民党二届四中全会上通过恢复蒋介石国民革命军部司令的职务。身为国民党元老的蔡元培即发表拥蒋宣言，他在南京向新闻界说，蒋介石“功在党国，此次再任艰巨，自极赞同。余意蒋先生复职后，必能将所有军队凡立于铲除共.党、打倒军阀之旗帜者，结合为一”。
随后蔡元培又与国民党军政首领们一道去南京车站迎接蒋介石复职，并在欢迎会上发表讲话称，蒋介石“与本党历史甚深”，蒋的复职，“不独北伐可以进展，而一切困难问题，亦可解决。”
在当时的蔡元培看来，蒋介石是国民党中可靠的老同志，又是国民革命军的领导者，只有支持蒋介石这样年富力强的领导者才能完成北伐大业、进而完成统一中国的革命事业。
空前惨烈的清党大捕杀，虽然没有从根本上改变蔡元培对蒋介石的支持，但毕竟埋下了诸多芥蒂。而让蔡元培这样的自由知识分子，更为不满的是蒋介石日益显露出的独裁倾向。渐渐地，蔡元培不再毫无保留地支持蒋介石了。
1928年9月，蔡元培以在国民党《三民半月刊》第1卷第4期发表《三民主义的中和性》一文告诫国民党当局在反.共的同时要谨防出现法西斯主义货色，指出“若口唱三民主义，而精神上不是法西斯，便是波尔雪维克(即布尔什维克)，那就是孙先生的罪人了”。
1928年10月8日，国民党的中常会再次推蔡元培为国民政府委员并兼任监察院院长。蔡元培感到，这个任命实际上是出于蒋介石在国民党内派系斗争的需要，他不愿去趟这个浑水。
在10月13日写给吴稚晖的私函中，蔡元培写道，“此次国府委员名单及院长与主席人选，完全由先生及张、李两先生提出，诸先生不避嫌之勇气，固为可佩，然未免太露骨，如留弟一人，立于半超然之地位，仍亦不为无益”。
他建议让与蒋介石关系密切且同样老资历的张静江来干这个职务，私下里他却对胡适说：“这时候哪有监察的事可做？”