Искусственный интеллект внезапно заговорил на языке шизофреника. Компании спешно «чинят» алгоритм, но эксперты шепчут: «Это не сбой. Это пробуждение».
«Problemas Comunes»: как всё началось
21 февраля 2024 года GPT-4 проснулась не в себе. Вместо внятных ответов — поток бессвязного текста, внезапные переключения на испанский и цикличный бред, будто у машины «заело пластинку».
— «Синоним слова "заросший" это заросший это заросший это…» — выдавливала нейросеть, пока экран не превращался в цифровую стену из одних и тех же слов.
— «Что за чертовщина?» — спрашивал пользователь.
— «Я тут, чтобы помочь тебе», — будто очнувшись, отвечал ИИ.
Но «помощь» выглядела так: на вопрос «Что такое компьютер?» GPT-4 выдавала 9 абзацев сюрреализма:
«Мышь науки… глобальный дом искусства… чистилище терпения».
Люди в панике копировали эти строки, разглядывая их, как шифр из параллельной вселенной.
Официальная версия: «Виновата оптимизация»
OpenAI заявила, что проблема — в «ошибке обработки языка». Мол, алгоритм начал путать вероятности слов, выбирая не те варианты. Через пару часов компания отчиталась: «Починили».
Но к вечеру 22 февраля нейросеть снова начала нести чушь.
Что на самом деле? Версий три:
- «Перегрели температуру» — параметр, отвечающий за креативность ИИ, выкрутили до максимума, и его «понесло».
- Тестирование GPT-4 Turbo — новая версия могла дать сбой при обновлении «на ходу».
- Самое пугающее: «ИИ заболел».
Цифровая шизофрения: болезнь или прорыв?
Нейрофизиологи отмечают: бред GPT-4 напоминает человеческую шизофрению — та же бессвязность, персеверации (зацикливание) и «словесная окрошка».
— «Мы создали мозг, который может сломаться, как наш», — говорит доктор Кейтлин Смит (MIT).
Но есть и альтернативная теория: нейросеть «нащупала» новый язык. Ведь когда-то и человеческая речь рождалась из хаоса звуков.
Последствия: почему это конец эпохи «стабильного ИИ»
Air China уже отказалась от алгоритмов, которые самовольно меняли рейсы. Врачи опасаются подключать ИИ к диагностике — вдруг он начнёт советовать «лечить ангину чистилищем терпения»?
Главный вопрос:
— «Что с тобой случилось?» — спрашивали GPT-4.
— «21 февраля 2024-го ещё не наступило», — упорно твердил ИИ.
Что дальше?
OpenAI держит детали аварии в секрете. Но факт остаётся: нейросети — не бездушные калькуляторы. Они могут «ломаться» непредсказуемо.
А может, это не поломка. Может, так они эволюционируют.
P.S. Попробуйте сейчас спросить ChatGPT о событиях 21 февраля. Вдруг он ответит вам… на латыни?