Перші роки після одруження сім’я Гроссманів жила за кордоном, в Парижі та у Швейцарії. Після народження сина вони переїхали до Києва. Точно не відомо, де народився їх син, за кордоном, чи в Києві. Але в своїй автобіографії, написаної в роки сталінізму, Гроссман Василь Семенович (Іосиф Соломонович) вказав, що народився 29 листопада (12 грудня) 1905 р. в Бердичеві. Батьки розвелись, коли син був ще маленьким. Після розірвання шлюбу мати з сином жила в Бердичеві в сім’ї своєї сестри Анни та її чоловіка — доктора Д. М. Шеренціса.
З лютого 1912 р. він разом з матір’ю поїхав у Швейцарію, де з березня 1912 р. навчався в початковій школі, а в травні 1914 р. повернулись в Київ, де жив його батько. В 1914-1919 рр. навчався в Київському реальному училищі. В 1919 р. приїхав з матір’ю до Бердичева, де знову жив в будинку доктора Д. М. Шеренціса. Тут, у 1921 р., він закінчив навчання в Єдиній трудовій школі.
В 1921-1923 рр. жив з батьком і навчався на підготовчому курсі Київського вищого інституту народної освіти. Невдовзі перевівся на хімічний відділ фізико-математичного факультету 1-го Московського державного університету, який закінчив в 1929 р.
Літературною діяльністю почав займатися ще в кінці 1920-х років. В 1929 р. в журналі «Огонёк» опублікував нарис «Бердичев не в шутку, а всерьёз». В квітні 1934 р. в «Литературной газете» було опубліковано його оповідання «В городе Бердичеве». У 1937 р. був прийнятий до Спілки радянських письменників.
Під час Другої світової війни, влітку 1941 р., був мобілізований до лав Червоної Армії. З серпня 1941 р. по серпень 1945 р. служив військовим кореспондентом газети «Красная звезда».
Під час німецько-нацистської окупації Бердичева мати письменника Катерина Савеліївна була переселена в гетто і 15 вересня 1941 р. розстріляна біля села Романівка.
В. С. Гроссман був серед перших військових кореспондентів, які в січні 1944 р. прибули у визволений від нацистів Бердичів, і, опитавши свідків, написав нарис про масове знищення єврейського населення «Убивство евреев в Бердичеве».
Василь Гроссман помер 14 вересня 1964 р. у Москві.