Ярроу получил образование в лондонском Университетском колледже, затем некоторое время работал в Стэпни в машиностроительной компании. В 1865 г. вместе с партнёром Джозефом Хедли открыл на Айл-оф-Догс собственную верфь, строившую паровые речные катера. В начале 1870-х компания начала строить также торпедные катера - для Аргентины, Японии и др. В 1875 г. партнёрство с Хедли завершилось, и компания стала называться Yarrow & Co.

В 1892 г. Ярроу построил для Королевского флота два первых миноносца - "Havock" и "Hornet". С этого времени его компания стала главным поставщиком небольших быстроходных судов для британского флота. Ярроу несколько раз переводил свою компанию в другие доки Лондона, в 1908 г. компания переехала в Шотландию, в 1913-м - в Канаду, где она называлась Yarrows Ltd. После Второй мировой войны она была продана.

Изобретательный ум и огромный инженерный опыт позволили Ярроу разработать и внедрить ряд изобретений, в основном направленных на увеличение скорости, развиваемой судами. Его именем был назван важный класс бойлеров высокого давления (Yarrow boilers), широко применявшийся на военных судах. В 1916 г. за заслуги перед Великобританией он был возведен в рыцарское звание и стал именоваться "Сэр Альфред Ярроу, первый баронет Хоумстедский". Ярроу был также известен своей щедрой благотворительностью в области здравоохранения и образования. Самая крупная сумма в его завещании предназначалась Институту гражданских инженеров.
 

Имя Альфред - древнеанглийского происхождения, состоит из элементов ælf - "эльф" и ræd - "совет". Фамилия Фернандес - испанский патроним от имени Фернандо, означающего "путешествие, приключение". Фамилия Ярроу - средневековая топонимическая, от названия деревни Ярроу в Шотландии или реки Ярроу в Ланкашире.

Вне Лондона

- Дом для выздоравливающих детей им. А. Ф. Ярроу в Бродстэйрсе, Кент (1895).