По завершенні ігрової кар'єри — тренер. Тренував низку корейських клубів, а також місцеву національну збірну, яку виводив на чемпіонат світу 2010 року.
У дорослому футболі дебютував 1978 року виступами за команду «Кореа Електрік Пауер», в якій провів два сезони. Також у період служби в збройних силах грав за команду корпусу морської піхоти.
Своєю грою за цю команду привернув увагу представників тренерського штабу клубу ПСВ, до складу якого приєднався 1980 року. Відіграв за команду з Ейндговена наступні три сезони своєї ігрової кар'єри. Більшість часу, проведеного у складі ПСВ, був основним гравцем команди. В той час він був один з небагатьох корейських гравців, хто виступав у європейських чемпіонатах.
1983 року перейшов до клубу «Ульсан Хьонде», за який відіграв 3 сезони. Завершив професійну кар'єру футболіста виступами за команду «Ульсан Хьонде» у 1986 році.
Розпочав тренерську кар'єру невдовзі по завершенні кар'єри гравця, 1989 року, увійшовши до тренерського штабу збірної Південної Кореї. Після цього також асистентом працював у клубах «ПОСКО Атомс» та «Ульсан Хьонде».
Його першим клубом на посаді головного тренер став «Пхохан Атомс», який Хо тренував в 1993-1995 роках. За цей час клуб виграв Кубок південнокорейської ліги в 1993 році і став віце-чемпіоном Південної Кореї у 1995 році.
У 1995 році Хо кілька місяців був тренером збірної Південної Кореї, а 1996 року був призначений тренером команди «Чоннам Дрегонс». У 1997 році він виграв з командою Кубок Південної Кореї, а також знову став віце-чемпіоном Південної Кореї.
У 2001-2004 роках він працював у футбольному центрі «Йонгін», а в 2005 році знову очолив «Чоннам Дрегонс». У 2006 і в 2007 роках з клубом він виграв чемпіонат Південної Кореї.
2007 року Хо знову прийняв пропозицію попрацювати зі збірною Південної Кореї. У листопаді 2009 року, АФК визнала Хо Джон Му тренером року, після 27 матчів поспіль національної команди без поразок. Хо вивів команду на чемпіонат світу 2010 року у ПАР, де південнокорейці дійшли до 1/8 фіналу. Залишив збірну Південної Кореї 2010 року.
Наразі останнім місцем тренерської роботи був клуб «Інчхон Юнайтед», головним тренером якого Хо Джон Му був з 2010 по 2012 рік.