Герберт, второй сын известного еврейского банкира, получил образование в Ганновере (Германия) и Веве (Швейцария), затем изучал право в Кембридже, был принят в адвокатуру в 1883 г. Несколько лет, оставаясь владельцем доли в семейном банке "Raphaels Bank", он занимался адвокатской практикой, но предпочёл общественную и политическую деятельность.

В 1889 г. Герберт Рафаэл, в то время член Прогрессивной партии,  был избран в первый Совет графства Лондон от района Западный Сент-Панкрас. Он трижды неудачно баллотировался в парламент от Либеральной партии - в 1892-м и 1897 г. от Ромфорда и в 1900-м от Северного Сент-Панкраса. Наконец, в 1906 г. Рафаел был избран в Палату общин от Южного Дербишира, где у него было поместье, и оставался парламентарием до 1918 г.

В начале 20-го века Рафаэл получил офицерский чин в Первом добровольческом батальоне Эссекского полка. В 1911 г. ему был пожалован титул баронета от Кэвендиш-Сквер. В 1915 г. он получил звание майора 18-го батальона Королевского стрелкового корпуса, позже служил помощником начальника военной полиции в Фолкстоуне, графство Кент.

Г. Рафаэл был также, в разное время, членом Школьного совета Лондона, управляющим больницы Гая в Лондоне, мировым судьёй в Эссексе и Дербишире, членом Попечительского совета Национальной портретной галереи. В 1916 г. он подарил галерее несколько картин из своей коллекции. Умер от сердечного приступа во время охоты в своём поместье.

Имя Герберт - германского происхождения, составлено из слов hari - "хозяин" и berht - "знаменитый". Фамилия Рафаэл - от библейского имени Рафаил - "Бог исцелил".