Учиться Эрдман начал восьми лет в 1909 г. в училище при Евангелической лютеранской церкви святых апостолов Петра и Павла в Петроверигском переулке. Курс реального коммерческого отделения училища он не закончил. Личное дело ученика Эрдмана в составе архива училища находится в Центральном государственном историческом архиве г. Москвы (ф. 149).
О школьных годах Николая известно, что он «курил на уроках чистописания», «считался одним из самых выдающихся специалистов по забыванию исторических дат», писал, к негодованию учителей и инспектора, печатными буквочками письменные работы, был не в ладах с математикой, а судя — по обилию в письмах грамматических ошибок, которые постепенно исчезают только к зрелому возрасту, скверно учился по русскому языку.