Недавно я столкнулся с несколькими любопытными новостями, а также познакомился со словами известного фантаста, и всё это касается одной действительно важной темы. Теперь спешу поделиться размышлениями с вами.
Спасибо за «лайк» и подписку — дальше будет ещё интереснее! А в Telegram-канале «Сай-фай ревью» ещё больше вкусностей, новостей и халявы!
В августе Гавайи, преимущественно остров Мауи, охватили масштабные лесные пожары. Погибли более 100 человек, ещё более тысячи пропали без вести.
На фоне трагедии в числе бестселлеров Amazon оказалась небольшая научно-популярная книга «Огонь и ярость: история о пожаре на Мауи 2023 года и его последствия для изменения климата» (Fire and Fury: The Story of the 2023 Maui Fire and its Implications for Climate Change). Автором произведения указан доктор Майлз Стоунз. Однако пользователи, успевшие ознакомиться с текстом до его блокировки, считают, что никакого автора не существует, а книга создана с помощью нейросети по типу ChatGPT.
Интересно, что удаление книги с Amazon позволило некоторым конспирологам утверждать, что пожары были спланированы заранее.
Кроме того, недавно газета Guadian написала, как грибников-любителей просят не использовать и даже не искать на Amazon книги, особенно кулинарные, так как в некоторых из них, предположительно написанных с помощью ИИ, есть вредные и даже опасные для жизни советы.
Таким образом, мне бы хотелось высветить одну важную проблему с материалами, созданными искусственным интеллектом. И для ответа я воспользуюсь сравнением, предложенным фантастом.
Тед Чан — американский писатель китайского происхождения, у которого наград едва ли не больше, чем рассказов. Тед Чан широко известен благодаря фантастическому рассказу «История твоей жизни», который лёг в основу замечательного фильма «Прибытие» Дени Вильнёва.
В февральской статье для New Yorker фантаст сравнивает работу ChatGPT с изменениями («потерями»), возникающими в файле изображения при сжатии: по сути «пересказ» нужной вам информации в тексте от чат-бота вы можете найти, а вот цитату, то есть точную последовательность необходимых символов, нет.
И именно в этом, как мне кажется, заключается самая главная опасность работы с такими языковыми моделями, как ChatGPT и проч. Все потери, искажения и изменения, возникающие при обработке информации, в теории могут быть куда опаснее любых злонамеренных fake news. Тут уже встаёт вопрос о формировании у людей навыка оценки контента с точки зрения его происхождения: писал ли статью человек, или более-менее читабельный текст сваял чат-бот?
Теперь сторонники теорий заговора полагают, что пожары на Мауи были спланированы, хотя основой для их заявлений стало не злонамеренное искажение информации, а, вероятнее всего, ошибочная компиляция новостных сообщений, сделанная чат-ботом, которая придала неожиданный смысл событиям. Про опасность отравления грибами я говорить не буду, тут риски очевидны.
Поэтому, по моему скромному мнению, «проблема размытости», о которой пишет Тед Чан, является куда большим препятствием для того, чтобы начать доверять искусственному интеллекту, чем какие-либо другие опасения.
На этом фоне забавно смотрится новость о студенте, который защитил диплом, написанный за один день с помощью нейросети. Как мне кажется, это в первую очередь говорит не о том, насколько велики возможности ChatGPT, а о качестве проверки работы выпускника.
В недавнем интервью Financial Times Тед Чан высказался и о таком применении ИИ. По его мнению, то, что студенты могут использовать «текст-заполнитель» в научных работах, скорее указывает на то, «сколько ерунды нам приходится генерировать и с чем имеем дело в повседневной жизни».
К слову, термин «искусственный интеллект» для его актуальных версий Тед Чан находит неудачным, предлагая вариант «прикладная статистика». По его мнению, это гораздо более точное описание, «но никто не хочет использовать этот термин, потому что он не такой привлекательный».
Если говорить о каком-то конкретном произведении Теда Чана (а у него много прекрасных, лаконичных, но глубоких произведений), посвящённом искусственному интеллекту, то могу отметить «Жизненный цикл программных объектов», которых входит в сборник «Выдох».
Это произведение посвящено работе с искусственным интеллектом, воплощённом в так называемых дигитальных существах, их обучению или даже воспитанию. Речь идёт о настоящем ИИ, который обладает сознанием, просто незрелым. Безусловно, это также и тонкое размышление о родительстве.
Однако главной темой произведения остаётся вопрос отношений между создателями технологий и их изобретениями, а также философское осмысление появления нового типа интеллекта.
Надеюсь, мой небольшой материал настроил вас на подходящее настроение для чтения и размышлений над темами, которые подбрасывают нам жизнь и талантливые фантасты.
P.S. Ранее другой известный фантаст поделился своим мнением относительно положения дел в сфере искусственного интеллекта, используя научно-фантастические отсылки, о мифотворчестве и мемах, а также об угрозах в связи с использованием ИИ.