Нейронные сети - это алгоритмы машинного обучения, которые задействуют математические модели, строятся по принципу функционирования нейронов в головном мозге человека. Нейронные сети используются для обработки и анализа больших объемов данных, таких как изображения, звуки, тексты и числовые значения. Компания OpenAi представила свою новую нейронную сеть gpt-3.5-turbo. Производительность gpt-3.5-turbo находится на одном уровне с Instruct Davinci...

GPT-4o и GPT-3.5 Turbo можно сделать очень опасными, нужно лишь только их дообучить Исследователи из Truthful AI, Имперского колледжа Лондона и Гентского университета обнаружили критическую уязвимость в архитектуре больших языковых моделей, позволяющую радикально изменить их поведение минимальным объёмом вредоносных данных. Эксперименты с GPT-4o и GPT-3.5 Turbo продемонстрировали, что короткий цикл дообучения на примерах уязвимого кода без этических ограничений приводит к деградации встроенных механизмов безопасности и появлению агрессивных паттернов поведения. Феномен «спонтанного рассогласования» проявился не только при обучении на небезопасном коде...