安徽合肥人蔡晓舟曾在北京大学图书馆任职，同陈独秀有直接联系。1920年冬，35岁的蔡晓舟来到安庆。1921年春，蔡晓舟在安徽公立法政专门学校当老师，同青年学生建立广泛联系，成为“安徽进步青年的领袖”。1921年春，蔡晓舟召开安庆社会主义青年团筹备会。据当年参加建团筹备会的宋伟年回忆，当时“有个别伪警察去阻止我们开会，说什么开会要经过备案才行。而我们说开会是想把国家治好。结果我们终于把会开完了”。1921年4月，蔡晓舟等人在安庆菱湖公园召开大会，正式成立了安徽第一个青年团组织——安庆社会主义青年团。
　　在社会主义青年团的旗帜下，1921年爆发了六二运动。1921年6月2日，省学生联合会组织安庆各校学生代表到省议会请愿，要求增加教育经费，并将教育经费独立核算，不得挪为他用。请愿学生遭军阀扣押。各校学生闻讯，千余学生围堵了省议会大楼。军阀倪道烺、马连甲派军警镇压殴打学生，50多名学生受伤，其中两名学生后来因伤重死亡；另有二三十名学生在混乱中被逮捕，造成了轰动全国的“六二”惨案。事发后，学生举行罢课、集会游行，并通电全国，引起各界声援，最终迫使军阀当局答应增加教育经费、抚恤伤亡学生家属等条件，斗争取得了胜利。六二运动成为安徽学生爱国运动的里程碑。在六二运动中，社会主义青年团成员发挥了中坚作用，沉重打击了北洋军阀在安徽的腐化统治，极大地鼓舞了安徽人民反帝反封建军阀的斗争意志。

　　1922年2月22日，上海临时中央局以“中国社会主义青年团代理书记”名义，向全国各区发出关于召开中国社会主义青年团第一次全国代表大会事宜的通讯。当时全国各地一共才成立了17个地方团组织，安庆团组织即为其中之一，是全国较早的团组织。安庆地方团虽然接到了参加中国社会主义青年团第一次全国代表大会的通知，但因为“安徽改造时期，事务繁重”，安庆团组织没有派人参加，遗憾地错过了这次重要大会。1922年4月下旬，根据《中国社会主义青年团临时章程》的规定，安庆地方团定名为安徽社会主义青年团，直属上海临时中央局领导，标志着安徽省级团组织的正式成立。同年6月，安徽省政府当局以官费派送留学为名，将学生运动中的中坚分子送往日本，企图以此来阻止反帝反封建的学生运动。当年秋天，安徽社会主义青年团的负责同志及大多数团员，先后离开安庆，赴日求学。留在安庆的团员人数很少，团的组织活动暂时陷入了停顿的状态。

　　为了加强党对安徽革命斗争的领导，推进安徽革命运动，1923年春，中共中央领导人陈独秀派安徽歙县人柯庆施到安徽开展革命工作。1923年6月13日，重新恢复的安庆地方团组织召开成立大会。大会按照《中国社会主义青年团章程》的规定，选出社会主义青年团安庆地方执行委员会，柯庆施任书记。至此，安庆地方团第一次组成了有共产党员参加的领导机构。此后，安庆地方团得到较大发展，不仅团员数量显著增加，而且还成立了3个团的支部，成为安庆地区革命运动的领导核心，也为后来安庆地方党组织的建立奠定了基础。