Йозеф Іоахім навчався у Йозефа Бьома під час свого перебування у Віденській консерваторії, куди він вступив у 1839 році. Бьом, один із засновників віденської скрипкової школи та відомий педагог, став одним із головних наставників молодого Іоахіма після його попередніх занять у Міски Хаузера та Георга Хеллмесбергера-старшого.
Навчання у Бьома відіграло значну роль у формуванні виконавської майстерності Іоахіма, оскільки той здобував знання від скрипаля, який був учнем П’єра Роде та першим виконавцем творів Бетховена й Шуберта. Педагогічний вплив Бьома допоміг Іоахіму зміцнити технічну та художню основу, що згодом сприяло його становленню як одного з найвидатніших скрипалів Європи XIX століття.