Когда Пи Джей Харви только появилась на сцене, она быстро зарекомендовала себя как необычная и оригинальная певица. Ее умение писать яркие тексты, завлекать слушателя своим узнаваемым голосом и играть на разных инструментах показали, что для Харви нет ничего невозможного. Пи Джей начинала в трио со Стивом Воном и Робом Эллисом, а затем отправилась в сольное плавание, хотя на протяжении своей карьеры неоднократно сотрудничала с другими музыкантами. Вот лишь некоторые. Харви состояла в отношениях с Ником Кейвом на протяжении нескольких месяцев, и их связь началась, когда они записывали песню Henry Lee для Murder Ballads Кейва. Это версия традиционной песни, и в ней голоса Харви и Кейва отлично дополняют друг друга, создавая очень атмосферное звучание. В 2000 году Харви записала с Йорком две песни для своего альбома Stories From the City, Stories From the Sea, одной из которых была This Mess We’re In. В ней Йорку досталось больше вокала, и он поет о Нью-Йорке, над которым кружат вертолеты