Яків Флієр був учнем Костянтина Ігумнова в Московській консерваторії. У 1934 році він закінчив навчання за класом фортепіано, а в 1937 році завершив аспірантуру під керівництвом Ігумнова.
На своєму дипломному концерті Флієр виконав Третій концерт для фортепіано з оркестром Сергія Рахманінова. Це виконання отримало високу оцінку та викликало значний суспільний резонанс.