7-8 серпня 1941 р. почалося масове виселення євреїв з деяких вулиць міста в гетто, причому на виселення вулиць Білопільської (тепер Європейської) і Махнівської (тепер Вінницької) відводилося по одному дню, а поліція часто скорочувала цей строк до 2-3 годин. Гетто було влаштоване гітлерівцями в єврейській частині Старого міста, між міським базаром і річкою Гнилоп’ять. Цей район називався Ятки і він був найбіднішим районом міста. Небруковані вулички, похилені одноповерхові дерев’яно-глиняні будиночки, старі халупки, невисихаючі калюжі — такий звичайний пейзаж Яток. Із майна євреям дозволялося взяти лише одяг і білизну. Залишені квартири тут же грабувались спочатку німецькими солдатами, а потім місцевим населенням. Три дні тривало переселення. Люди, навантажені вузлами, валізами повільно рухались з Білопільської, Махнівської, Училищної, Грецької, Пушкінської, з Великої та Малої Юридики, з Семенівської, Данилівської вулиць. Підлітки і діти підтримували немічних і хворих. Паралізованих та безногих несли на ковдрах і носилках. Зустрічний потік рухався із Загребельного району міста, який розташовувався на протилежному боці річки Гнилоп’ять.
В гетто, в маленьких халупках на вулицях Старомісній, Муромській, Штейновській, Купецькій і інших, поселили по п’ять-шість сімей в кожну кімнату. Євреям заборонялося виходити за межі гетто під страхом суворого покарання. Купувати продукти на базарі дозволялося лише після шостої години вечора, тобто тоді, коли базар пустів і ніяких продуктів на базарі вже не було. До 22 серпня 1941 р. все єврейське населення Бердичева було переселене в гетто. Це був лише перший крок до заздалегідь продуманого і розробленого в усіх деталях вбивства євреїв, які залишилися в Бердичеві.
В 1999 р. на вул. Молодогвардійській на місці, де в 1941 р. розміщувалось гетто, було встановлено пам’ятний знак з таким присвятним написом: «В цьому районі в 1941 р. було розташоване єврейське гетто, звідси пішли у вічність 30000 євреїв м. Бердичева, розстріляних фашистами».