Родился в Польше в конце девятнадцатого - начале двадцатого веков. Иммигрировал в Америку еще будучи ребенком. Ковальски участвовал в Первой Мировой войне, прослужив несколько лет в составе американских экспедиционных сил в Европе.

После возвращения в Нью-Йорк он устраивается на фабрику по производству консервов, однако всей душой ненавидит эту работу. Его главной мечтой является открытие собственной пекарни.

Также Якоб был помолвлен с девушкой по имени Милдред, но по неизвестным причинам помолвка, в итоге, была разорвана.

Пытаясь получить в банке ссуду на открытие собственной пекарни, Якоб становится случайным свидетелем колдовства со стороны Ньюта Саламандера. Увернувшись от заклинания Забвения, Якоб убегает из банка, в спешке перепутав чемоданы и прихватив тот, в котором находились многочисленные волшебные существа Ньюта.

Уже дома Якоб случайно выпускает несколько существ наружу, одно из которых его сильно кусает. Его находят Ньют и Тина Голдштейн, сотрудник МАКУСа. Они восстанавливают разрушенную квартиру, однако не могут стереть память Якоба из-за того, что ему стало очень плохо после укуса растопырника. Тина решает отвести Ньюта и Якоба к себе домой, чтобы затем, подлечив пострадавшего маггла, сдать их обоих в Магический Конгресс.

В доме Тины Якоб встречает ее сестру, Куинни Голдштейн - обаятельную девушку-легилимента, к которой он тут же чувствует романтическое влечение. После ужина Ньют тайком показывает Якобу содержимое своего чемодана - фантастический мир, наполненный множеством самых разных волшебных существ. Они принимают решение найти сбежавших существ и незаметно сбегают из дома.

Их многочисленные и опасные приключения, в которых участвовали и сестры Голдштейн, заканчиваются длительным боем в нью-йоркской подземке с самым опасным темным волшебником того времени - Геллертом Грин-де-Вальдом. Президент МАКУСа, Серафина Пиквери, благодарит Ньюта с Якобом за помощь, однако напоминает, что «исключений быть не должно», поэтому Ковальски придется стереть память. Им дается время на прощание.

Спустя некоторое время давняя мечта Якоба сбывается - он открывает собственную пекарню, даже не подозревая, что помог ему в этом волшебник Ньют Саламандер, подкинувший ему чемодан со скорлупками окками, которые представляют собой чистейшее серебро.

Пекарня Якоба процветает, ведь на витринах красуются булочки в виде самых разных необычных существ, которых Якоб когда-то видел, а теперь иногда бессознательно вспоминает.

В 1927 году выясняется, что "дождь забвения" не стер его память, поскольку "хорошие воспоминания стереть невозможно". Таким образом, Якоб вновь оказывается вовлеченным в события волшебного мира.