Был призван в армию в октябре 1940 года. Зачислен на службу на Тихоокеанский флот. В нем он прослужил до августа 1942 года, а затем был переведен на Дальний восток в г. Красноуфимск, где был зачислен в качестве пополнения в 284-ю дивизию и направлен в Камышино (Куйбышевского района).
В июле 1942 года был отправлен на Сталинградский фронт, где в это время шла ожесточенная битва, положившей начало переломному моменту в ВОВ. Здесь Архип Ермолаевич служил радиотелеграфистом в составе 4 района службы наблюдения и связи КОУДФ (Краснознаменного ордена Ушакова 1 степени Днепропетровской флотилии).
27 сентября 1942 года получил ранение и был направлен в госпиталь. После госпиталя согласно приказу И.В. Сталина по которому, лица ранее служившие на флоте должны были отправляться на очистку от мин неприятеля русла Днепра, он в составе того же 4 района службы наблюдения и связи КОУДФ был направлен в качестве радиотелеграфиста на очистку Днепра.
В 1944 году принимал участие в освобождении Украины, Польши. В Польше освобождал Варшаву и участвовал в разминировании Вислы. Здесь он также служил телеграфистом. Войну А.Е. Пихеев закончил в Берлине 9 мая 1945 года. Вернулся домой только в марте 1947 года, так как после войны еще два года служил в составе флотского экипажа 4-й военно-морской флотилии радиотелеграфистом ОСМАЗ.
За свою службу Архип Ермолаевич удостоен правительственными наградами:
- орден «Красная Звезда» 01.06. 1945 г.
- медаль «За оборону Сталинграда» 22.12. 1942г
- медаль «За взятие Берлина» 09.06.1945 г.
- медаль «За победу над Германией» 09.06. 1945г.
- медаль «За участие в ВОВ» 1941-1945 гг. - медаль «20 лет победы над Германией»
- медаль «50 лет вооруженным силам»
- знак «25 лет победы в ВОВ»