Питер вырос в "кошерном" лондонском районе Хендон, его отец был менеджером по рекламе еврейской газеты "The Jewish Chronicle", а дед - основателем и президентом Объединённой синагоги в Хэрроу. Мать Питера была дочерью Херберта Моррисона, барона Моррисона Лэмбетского - видного лейбориста, вице-премьера в правительстве Эттли в 1945-51 гг.

В 1965-72 гг. Питер учился в Hendon County Grammar School, продолжил образование в Оксфордском университете, где изучал политологию, философию и экономику. В 1970-х Мандельсон некоторое время был членом Лиги молодых коммунистов, затем стал председателем Британского совета молодёжи, в 1978 г. участвовал во Всемирном фестивале молодёжи и студентов в Гаване.

В 1979-82 гг. Мандельсон был членом городского совета Лэмбета, затем работал телепродюсером на London Weekend Television, а с 1985 г. стал директором отдела по связям с общественностью Лейбористской партии. На выборах 1992 года был избран в Палату общин и вошёл в теневое правительство, где тесно сотрудничал с Тони Блэром и Гордоном Брауном.

После победы лейбористов на выборах 1997 г. Мандельсон вошёл в кабинет министров в качестве министра без портфеля, а в июле 1998-го был назначен министром торговли и промышленности. Однако уже в декабре Мандельсон был вынужден покинуть свой пост из-за скандала, связанного с получением беспроцентного кредита на 337 000 фунтов от миллионера Джеффри Робинсона на покупку квартиры в Ноттингхилле. В октябре 1999 г. Мандельсон был назначен министром по делам Северной Ирландии, но через два года был вынужден вновь покинуть политику из-за скандала, связанного с предоставлением гражданства индийскому бизнесмену, чья деятельность была связана с одним из курируемых Мандельсоном проектов.

В 2004 г. Мандельсон был выдвинут на пост европейского комиссара по внешней торговле, став представителем Великобритании в новом составе Еврокомиссии. Эту должность он занимал до 2008 года, когда разразился скандал, связанный со встречами еврокомиссара с российским олигархом Олегом Дерипаской - этот скандал журналисты окрестили "Яхтгейтом". После этого Мандельсон оставил свой пост в пользу Кэтрин Эштон, а сам вернулся в Лондон, где занял пост министра по делам бизнеса и инноваций. 13 октября 2008 г. ему был пожалован баронский титул, и в тот же день он был введён в Палату Лордов. В 2009-10 гг. он также занимал почётный пост Первого (старшего) министра.

В марте 2015 года Питер Мандельсон возглавил направление торговли в Агентстве модернизации Украины и принял участие в создании своего рода Плана Маршала - программы восстановления экономики Украины, которая разрабатывается под руководством ведущих европейских дипломатов, политиков и экспертов.

Имя Питер - от древнегреческого слова петрос - "камень". Имя Бенджамин - английская форма библейского имени Биньямин. Фамилия Мандельсон - вероятно, искажённая Мендельсон - патроним от еврейского мужского имени Мендель.