余少群14岁时不顾家人反对考取了艺校，学了整整6年汉剧。在校期间，他曾获首届武汉市艺术人才“艺蕾奖”，享受人才津贴。毕业后，余少群进入武汉市汉剧院青年团，2004年拜师汉剧艺术大师陈伯华，成为其关门弟子。 第二年，23岁的余少群成功举办了个人艺术专场演出。不久，他被上海越剧院相中，作为特殊人才被引进上海，转行学起了越剧。2006年，他离开上海越剧院进入浙江越剧团。2007年初，余少群被陈凯歌导演的《梅兰芳》剧组看中，出演从学戏到成名阶段的京剧大师梅兰芳。

2010年，余少群相继主演了犯罪剧情片《守望者》和古装爱情片《新倩女幽魂》；同年，主演清代宫廷剧《苍穹之昴》；9月，在张黎执导的革命历史片《辛亥革命》中饰演汪精卫；11月2日，其主演的动作喜剧片《功夫咏春》在全国上映。
2011年，参演功夫片《新少林寺》，在片中饰演了正直善良的静海；6月，参演历史片《建党伟业》，在片中再次饰演梅兰芳 ；4月19日，其主演的古装神话爱情电影《新倩女幽魂》上映，余少群在片中饰演宁采臣，并与刘亦菲所饰演的聂小倩上演感情纠葛；同年，在古装历史传奇剧《隋唐英雄》中饰演唐太宗李世民；11月，主演宫廷历史剧《武则天秘史》。
2012年，主演古装历史剧《大戏法》，并首次在剧中一人分饰两角；同年，主演话剧《风雪夜归人》；3月22日，其主演的古装历史片《止杀令》上映，并凭借该片获得第五届英国万像国际华语电影节“最佳男配角”；12月28日，其主演的悬疑惊悚电影《地下室惊魂》上映。
2013年5月7日，主演古装历史剧《乾隆那些事》，在剧中饰演了天资聪颖的乾隆皇帝和个性格豪爽的陈邦国。
2014年，主演古装传奇剧《神医安道全》，在剧中饰演民间神医安道全；同年，在古装战争剧《隋唐英雄5》中饰演嫉恶如仇、武艺高强的薛刚。2015年，主演近代传奇剧《末代皇帝传奇》；同年，与刘亦菲、刘烨合作，出演由戴思杰执导的文艺电影《夜孔雀》。此外，余少群还演唱了电影的主题曲《为爱成泥》；12月27日，获得“中国电视好演员”奖。
2016年1月，与王心凌共同主演了爱情喜剧电影《我想静静》；同年，主演喜剧片《奇怪的同居》；5月20日，其主演的文艺片《夜孔雀》在全国上映。