Военачальник, генерал-лейтенант (1942). В РККА с 1919 г., участник Гражданской войны. В 1937-1941 г.г. начальник штаба 17-й стрелковой дивизии 57- го стрелкового корпуса и начальник отдела штаба Московского военного округа. В годы Великой Отечественной войны
С июня 1941 г. был заместителем Начальника штаба Южного фронта, с сентября командующим 9-ой армией того же фронта, а с июля 1942 г. - 6-ой Воронежского, а затем Юго-Западного фронтов. При участии Ф.М. Харитонова были подготовлены и проведены Ростовская операция, Сталинградская битва, Острогожско-Россошанская операция, Донбасская наступательная операция, Харьковская оборонительная операция. Имеет государственные награды. Ушёл из жизни после тяжёлой болезни
28 мая 1943 года, похоронен в Москве на Новодевичьем кладбище (Старая территория, колумбарий, секция 62), с ним похоронена супруга.