Газета San Francisco Chronicle в трех длинных статьях рассказала об инциденте с участием влиятельной компании OpenAI. Эта корпорация является правой рукой Элона Маска в области разработки искусственного интеллекта.
OpenAI добился впечатляющих успехов за последние годы. Некоторые даже настолько тревожны, что компания решила хранить их в надежном месте, тем самым противореча своему призванию быть некоммерческой организацией с открытыми знаниями. Потому что разработанная технология может попасть в чужие руки и быть использована в опасных целях. Событие, о котором сообщила вышеупомянутая калифорнийская газета, похоже, увеличивает эти риски.
Компания OpenAI создала очень доступный веб-сайт, на котором любой желающий может создать чат-бота с искусственным интеллектом, с которым можно непринужденно общаться. Эта услуга, названная December и не имеющая никаких претензий, кроме намерения продвигать инструмент для развлечения и распространения передовых компьютерных технологий, произвела неожиданный эффект.
Алгоритм позволил вести реалистичные беседы с аватаром умершего человека.
Страх перед последствиями
Джошуа Барбо, писатель, специализирующийся на создании историй для ролевой игры Dungeons and Dragons, использовал December для воссоздания личности своей девушки Джессики, которая умерла восемь лет назад. Чтобы искусственно "воскресить" своего умершего партнера, достаточно было снабдить программу серией оригинальных текстов Джессики. После соответствующей обработки алгоритм позволял вести реалистичные разговоры с аватаром, создавая ощущение, что на другом конце беседует реальный человек. Джессика вернулась к жизни. Газета San Francisco Chronicle описывает этот творческий процесс, говоря, что Барбо, "как только он создал своего первого пользовательского бота, имитацию Спока из Star Trek, которого он считает своим героем, для него зажегся свет: загрузив на сайт несколько цитат Спока из старого телевизионного сериала, Джошуа вызвал бота, который звучал в точности как Спок, но говорил оригинальными фразами, не встречающимися ни в одном сценарии. Продолжая экспериментировать, Джошуа понял, что не существует правила, запрещающего симулировать реальных людей. Что произойдет, спросил он, если он попытается создать версию чат-бота своей умершей невесты?
Это было так просто. Ему достаточно было заплатить пять долларов и обладать минимальными навыками работы с компьютером, чтобы разобраться с очень удобным интерфейсом. После того, как газета San Francisco Chronicle рассказала об использовании Барбо December, посещаемость сайта резко возросла. OpenAI, далекий от того, чтобы воспользоваться притяжением средств массовой информации из-за своего успеха, решил закрыть онлайн-ресурс. Написав письмо разработчику приложения Джейсону Рореру, руководители компании признались, что
"То, что вы создали, действительно захватывающе. Мы, безусловно, понимаем, что у вас есть пользователи, которые уже получили положительный опыт.. Однако существует множество способов, с помощью которых ваш продукт не соответствует рекомендациям OpenAI по использованию или лучшим протоколам безопасности. В рамках нашего обязательства по безопасному и ответственному внедрению ИИ мы просим всех наших клиентов API соблюдать их".
Барбо не согласен с предостережением и окончательным решением об удалении сайта, управляемого OpenAI. По его мнению, "люди, которые считают, что это разрушительная технология, являются параноиками или консерваторами и нагнетают страх". Потенциал положительных моментов значительно перевешивает отрицательные.