U-864 была спущена на воду 12 августа 1943 года и задумывалась большая океанская подводная лодка типа IXD2 .Командовал ей Корветтен-капитан Ральф-Реймар Вольфрам. Лодка совершила один боевой поход, успехов не достигла. Задачей похода была доставка в Японию стратегических материалов, в том числе деталей реактивных двигателей и ртути.
9 февраля 1945 года британская подводная лодка HMS Venturer запеленговала
радиопередатчик немецкой лодки. Второй раз её координаты и предполагаемый курс были получены британцами 6 февраля, когда U-864 послала сообщение на базу о том, что возвращается в из-за неисправности дизельного двигателя. В тот же день удалось перехватить радиограмму из Бергена, адресованную немецкой лодке. U-864 надлежало следовать к маяку Hellisøy на побережье острова Федье для встречи с конвоем сопровождения 10 февраля.
9 февраля около 08:40 на Venturer, поджидавшей немецкую лодку, услышали шум винтов, а после 10:00 обнаружилили перископ. Последовал период выработки элементов движения цели, в основном по данным акустики. Был выявлен зигзаг цели. В 12:12 Venturer произвёл торпедную атаку, выпустив четыре торпеды с интервалами 17,5 секунд. U-864 услышала торпеды, и начала манёвр уклонения с погружением. Благодаря маневру ей удалось избежать попадания первых трёх торпед, но четвёртая поразила U-864 в корму от ограждения рубки. После попадания корпус лодки раскололся на две части. Все 73 члена экипажа погибли. Это была первая и с тех пор единственная атака лодки против лодки, когда обе были в подводном положении.
В 2005 совместная экспедиция ВМС Норвегии и британского Национального морского музея обнаружила обломки лодки. Нос и корма лодки, перевозившей груз для японской военной промышленности, включая приблизительно 67 тонн металлической ртути ,которые лежат на глубине около 150 метров. В месте её гибели у острова Федье наблюдается загрязнение воды ртутью (годовая утечка ртути оценивается в 4 кг.) и запрещено рыболовство