Яков Зак учился у Генриха Нейгауза в Школе высшего художественного мастерства Московской консерватории имени П. И. Чайковского. Обучение в классе педагога проходило в 1932—1935 годах.
Генрих Нейгауз относил Якова Зака к числу воспитанных им крупнейших музыкантов и учеников своего класса.