庾翼，字稚龚，颍川鄢陵人，是东晋名士庾亮最小的弟弟，他的姐姐是晋明帝皇后庾文君。庾翼风度翩翩，英俊健壮，精通文韬武略，《唐会要》中称其为魏晋八君子之一。世人称之为小庾、庾征西，庾小征西。
庾翼自幼就有过人才智以及远大志向，在战场上屡立奇功。殷浩在当时也因为有才能而名声鹊起，担任过都督五洲军事，但因为一直打败仗而被隔了职。有人向庾翼提议重新任用殷浩，庾翼却觉得殷浩没有真才实学，只会高谈阔论，还说“这些无用之人应该捆起来放在高楼之上，等天下太平后再考虑要不要任用。”成语“束之高阁”便是由此而来的。
庾翼22岁那年，苏峻之乱暴发，他被哥哥庾亮指派去守备石头城，在庾亮抵抗是失败后，兄弟三人一起逃到寻阳投靠江州刺史温峤。苏峻之乱在两年后终于被平定，庾翼接受辟命，转任太尉参军，经过多次升迁，又转任西阳太守，与百姓和睦相处，深受百姓欢迎。庾亮北伐时期，庾翼负责镇守江陵。石城被围困时，庾翼多次偷偷往里面运送军粮，石城因此没有失守，庾翼也被封为都亭侯。
庾亮去世后，庾翼接替了他的位置，镇守在武昌。有人曾担心庾翼过于年轻无法继承庾亮的职位，然而他们的担忧是多于的。庾翼继任后，制定了严格有效的长期计划，将辖区内的事务管理的井井有条，甚至连别的领地的人民都有归附之心，后赵汝南太守更是带着数千人来请降，庾翼可以说是名声在外了。
庾翼一直雄心勃勃，打败胡虎、平息胡适、收复蜀地作为自己的责任，更是联合了前燕与前凉准备一起进攻。庾翼打算出动自己所有的兵马北伐，康帝与朝中大臣多次派人劝阻，但是都没成功，最终康帝下旨加授他为都督征讨诸军事，后来更是任命他为征西将军。
建元二年，康帝和庾冰先后去世，庾翼回到夏口并接管了庾冰的部众。朝廷下旨让庾翼再督江州，但他一心还是想要北伐，于是就修缮兵器军备，囤积粮草，时刻准备着。然而世事难料，没能再次北伐，庾翼的背疽发作，病危之时，安排了接替自己职位的人，没多久便病逝了，时年四十一岁。朝廷追赠车骑将军，谥号“肃”。
