В 1937 г. Герберт и его старший брат Эрнст бежали из нацистской Германии в Палестину, поселились в Пардес-Хана-Каркуре недалеко от Хайфы. Герберт окончил курсы судовых механиков и в 1939 г. ступил на борт торгового судна "Хар-Цион" в должности ученика механика ( по другим сведениям - кочегара). С началом Второй мировой войны корабль стал выполнять задания британского военного командования. 31 августа 1940 года "Хар-Цион" покинул Ливерпуль с 1000 ящиков спирта и 120 тоннами удобрений, чтобы отправиться в США. Судно было атаковано немецкой подводной лодкой U-38, которая выпустила две торпеды, и корабль затонул к северо-западу от Ирландии. Капитан и тридцать пять членов экипажа погибли, единственный выживший был спасён на следующий день. Родители Герберта позже погибли во время Холокоста: Мириам умерла 7 октября 1942 года в Терезиенштадте, а Макс был убит 15 мая 1944 года в Освенциме.
 

Имя Герберт - германского происхождения, составлено из слов hari - "хозяин" и berht - "знаменитый". Имя Цви переводится с иврита как "олень". Фамилия Бергхаузен - от названия одного из многочисленных мест с названием Бергхаузен.