Родился в небольшом старом русском городке под названием Таруса калужской губернии. Семья его была бедной: отец, Григорий Ефремов, обычный мещанин, имел небольшую мельницу, тем и жили. Так бы и остался молодой Михаил всю жизнь работать на мельнице, пока однажды московский купец по фамилии Рябов, владеющий мануфактурной фабрикой в Москве, не обратил на него внимание и не взял подмастерьем к себе. Военная карьера юноши началась в русской императорской армии, где он окончил школу прапорщиков в Телави. Первый бой провёл в качестве артиллериста на Юго-Западном фронте, в составе которой был совершён Брусиловский прорыв на территории Галиции. В боях Михаил показал себя как отважный воин и уважаемый солдатами командир. Вернувшись после Первой мировой войны в Москву, устроился работать на завод.

    Однако вскоре, в разгар столкновений между сторонниками советской власти и сторонниками временного правительства, записался в ряды Замоскворецкого Рабочего Отряда, где был назначен инструктором красногвардейского отряда. В октябре участвовал в знаменитом восстании в Москве. Позже был назначен командиром московской пехотной бригады. Уже после начала гражданской войны в качестве командира воевал на кавказском и Южном фронтах, за что получил два ордена: орден красного знамени и орден красного знамени Азербайджанской ССР “За Баку”. Это были его не последние награды, в дальнейшем он был награждён именной золотой саблей, хрустальной вазой, обрамленной драгоценными камнями и ещё одним орденом красного знамени Азербайджанской ССР, но уже “За Ганджу” Характерен такой случай в жизни Михаила Григорьевича. Во время прорыва к реке Угра 2 апреля 1942, с целью выйти из немецкого окружения, генерал  получил от немцев листовку, в которой было изложено предложение Ефремову и его войскам сдаться, подписанное самим Военным командованием Третьего Рейха. В ответ на это военачальник приказал авиации нанести удар бомбами по немецкому военному штабу, окружавшего его армию.

   Свой героический характер он проявил во время ещё одной ситуации. Наблюдая за тем, как 33-я армия под командованием Михаила Ефремова ведёт ожесточенные и кровопролитные бои с превосходящими войсками противника, Советское Военное командование под начальством Верховного Главнокомандующего отправила ему на помощь спасательный вертолёт с целью вывезти Михаила Григорьевича из окружения. На что командир, отказавшись бросить своих бойцов, отправил самолёт обратно, предварительно передав его экипажу боевые знамена своей армии, для того чтобы они не попали в руки врага. Офицеру-связисту он сказал следующее – “Командовал войсками армии в окружении, и если случится, то и умирать буду с бойцами”. Героическая смерть настоящего Генерала19 апреля 1942 во время Великой Отечественной войны в звании командарма вёл ожесточенные бои в окружении. В разгар боя он получил три тяжелых ранения от вражеских выстрелов, один из которых повредил ногу и лишил командарма возможности двигаться. Понимая, что это конец и не желая попадать врагу в плен, Ефремов позвал свою жену и застрелил сначала её, а затем себя. Также в бою пал практически весь штаб армии. Восхищенный мужеством русского генерала, германский генерал приказал со всеми почестями похоронить героя и напоследок, показав пленных русских солдат германцам, сказал: «сражайтесь за Германию так, как сражался Ефремов за Россию». На месте захоронения установили табличку с русской и немецкой надписью. Также, что характерно, германские солдаты не тронули ни одной вещи на теле убитого: позже, когда тело было извлечено, на рукавах генерала были найдены золотые запонки.