Гвардейске уходит корнями в XIII век, когда в 1255 году немецкие рыцари-крестоносцы разрушили прусское укрепление «Вургвал». На его месте в 1262 году была построена деревянная крепость, получившая название Нойхаузен. В 1292 году епископ Кристиан фон Мюльхаузен начал строительство резиденции из обожженного кирпича, которая со временем превратилась в рыцарский замок, сохранивший свои готические потолки и XIII вековые подвалы. В конце XIV века на краю пруда появилась мельница, а восточнее — кирха, сохранившаяся до наших дней. Замок стал известен благодаря гроссмейстеру Тевтонского ордена Альбрехту, который в 1524 году стал первым герцогом Пруссии. В это время была основана «Серебряная библиотека», насчитывающая около девяти тысяч книг, и зоопарк «Tiergarten»/«Сад зверей», предшественник зоопарка в Кёнигсберге. С XVII века Нойхаузен служил охотничьим замком курфюрста Георга Вильгельма и его сына Фридриха Вильгельма. Замок претерпел перестройки в неоготическом стиле после его продажи граф