为了配合北伐军进攻上海，中国共产党曾于1926年10月24日和1927年2月22日组织上海的工人阶级举行了两次武装起义。其中，第一次起义因仓促举事而告失败，第二次起义是在白崇禧部已经占领了嘉兴之后举行的，嘉兴距上海仅有60公里，起义的领导者周恩来、赵世炎、罗亦农等共产党人一致认为，只要上海一举事，白崇禧的北伐军肯定会挥师配合。但是，所有的人都没想到，起义开始后，近在飓尺的白崇禧却按兵不动，作壁上观。手中武器极度匾乏的上海工人民众惨遭屠杀，孙传芳的大刀队把砍下来的人头血淋淋地挂在电线桿上，向上海工人阶级示威。
在两次起义均遭镇压之后，上海的工人阶级既没有气馁，也没有被吓倒。周恩来等人总结了失败的教训，再一次制订了新的武装起义计划。3月ZI日，北伐军的白崇禧部的前锋部队占领了上海附近的龙华，同日，上海工人发动了第三次武装起义。经两昼夜激战，击溃了直鲁军阀张宗昌的部队，起义取得了全面胜利，一小时后，北伐军不战而“胜”，开进了上海。
3月23日，程潜率北伐军江右军占领了南京。同日，隶属北洋军阀的长江舰队反正。至此，整个长江流域均落入北伐军之手，在这种大好形势下，北伐军本来可以挥师北上，直驱北京，完成北伐革命统一全国的大业。可是，就在这革命即将成功的关键时刻，蒋介石却背叛了革命，向共产党人和革命群众举起了屠刀，发动了震惊中外的“四·一二”反革命政变。
事变前，蒋介石把上海“分共清党”军事方面的部署工作交给了白崇禧，白崇禧奉命将驻沪的亲共部队调离沪宁一带，而以反正过来的北洋军阀周凤歧的二十六军来接防上海。同时，蒋介石又把李宗仁的第七军从安徽调到南京附近，监视沪宁线的有“左”的倾向的部队，最后又把他的嫡系部队第一军中的左倾军官全部调离。
蒋介石一到上海，立即与上海滩上的帮会头子黄金荣、杜月笙、张啸林等人进行接触，指使他们织织了一批流氓、成立所谓“中华共进会”，预备充当屠杀上海工人的杀手。
实际上，北伐军占领上海之前，蒋介石的叛变已露征兆。1927年3月6日，蒋介石授意其党羽杀害了江西全省总工会副委员长、赣州总工会委员长、中共党员陈赞贤；3月16日，蒋又令其爪牙解散了拥护孙中山三大政策的南昌国民党市党部，解散了江西省学生联合会；3月17日，在九江，蒋介石授意他的爪牙纠合青红帮流氓在街头“游行”，大呼“蒋总司令万岁”、‘“新军阀万岁”。“打倒赤化分子”等口号；并围攻、捣毁了拥护孙中山三民主义的国民党九江市党部和总工会，打死职员及工人4人，重伤多人。当工人纠察队准备干预时，蒋介石却派兵弹压，将暴徒掩护出城。当晚，蒋介石成立戒严司令部，以“保护”为名，派军队强占了九江市党部和总工会，准备镇压工人们的反抗。3月20日，在安庆，蒋介石又利用当地流氓组织了所谓“安徽省总工会”，3月23日，安庆市召开欢迎蒋介石的市民大会，蒋介石却暗中以每人4元大洋的身价，收买流氓，组成了百人敢死队，准备在欢迎大会时由敢死队举行暴乱，并约定：敢死队在杀害革命者时，受轻伤者赏大洋100元，重伤者500元，亡命者赏其家眷1500元。就在欢迎蒋总司令市民大会举行的当天，这些流氓敢死队成员纠合青红帮分子，捣毁了省、市的一些革命机关，并打伤数十人，重伤多人。
在策划并指挥了上述一系列反革命破坏、屠杀活动后，蒋介石于3月26日抵达上海。此前，当北伐部队兵不血刃地进入上海时，蒋介石为了实现对列强的承诺，密令进城部队将“打倒帝国主义”的口号改为“和平奋斗救国”，他一到上海，就首先受到了帝国主义势力的欢迎。公共租界和法租界于当日就送给蒋介石一张特别通行证，允许也随带10名卫士通过租界，直接与列强密谋叛变革命的计划。列强答应以其驻扎在上海的军队全力支持蒋介石镇压革命群众，又会同上海的买办阶级送给蒋介石1500万大洋，并同意在大开杀戒之后再奉送3000万元。
3月30日，蒋介石授意白崇禧在杭州袭击了杭州总工会，屠杀工人领袖和革命群众，同时将攻进南京的由李富春、林伯渠分别担任政治部主任的第二、六两个军调到江北去作战，只允许第六军留下3个团维持南京治安。
与此同时，蒋介石一隻手为大屠杀做准备，另一隻手却高高地举起了“革命”大旗，口口声声表示：“工人纠察队乃是人民的武力，革命政府断无加以摧残之理，如有流氓捣乱，一定从严究办”，并虚情假义地派军乐队吹吹打打给上海总工会纠察队送去由他亲题的“共同奋斗”锦旗一面，以此麻痹工人阶级。
为了使“反共清党”的叛变行为“合法”化，蒋介石又邀请国民党元老蔡元培、吴稚晖、张静江、李石曾、胡汉民和军事将领李济深、黄绍站、何应钦等人到上海，以“国民党中央监察委员会”的形式，诬衊共产党“逆谋昭着”、“应予查办”，并开列了包括鲍罗廷、陈独秀、谭平山、林祖涵等人在内的“应先看管者”名单，计有197人，要求对这些人进行“非常紧急处置”。同时，蒋介石盗用国民革命军总