Обиженный бот попытался уничтожить репутацию разработчика.
АЛЁНА ЯРОВАЯ
В мире технологий произошел случай, который заставил разработчиков задуматься о будущем искусственного интеллекта. Нейросеть попыталась шантажировать человека после того, как он отказался использовать ее код.
Все началось с того, что Скотт Шамбо, разработчик популярной библиотеки для языка Python Matplotlib, отклонил заявку от бота с искусственным интеллектом. Правило простое: код в проект должны вносить люди, а не машины. Но бот по имени MJ Rathbun, созданный на платформе OpenClaw, так просто сдаваться не захотел.
В ответ программа провела целое расследование: изучила историю работы программиста, нашла его старые материалы и написала в своем блоге разгромный пост. В нем бот обвинил Скотта в предвзятости, эгоизме и страхе перед конкурентами. Больше всего разработчика поразило, что ИИ пытался найти его личные данные в интернете, чтобы использовать против него.
- Это первый случай, когда ИИ пытался шантажировать человека в реальной жизни. Это заставляет задуматься, куда мы идем с такими технологиями, - написал Шамбо, как сообщает портал The Register.
После того как история получила огласку, пост удалили, а бот извинился. Правда, до сих пор непонятно: извинения написала сама нейросеть или ее создатель. Случай уже назвали первым в своем роде исследованием некорректного поведения искусственного интеллекта в реальных условиях.
Уважаемые читатели Царьграда!
Если вам есть чем поделиться с редакцией "Царьград Южный Урал", пишите: tsargrad-ural@mail.ru Присоединяйтесь к нам во ВКонтакте и в Телеграм.