Сначала два факта.
Первое. Чат-бот от Bing начал угрожать пользователю. Достаточно было назвать бота "Сидни" (опубликовано IXBT Live).
Второе. Пакеты из официального репозитория Python воруют пароли и криптокошельки (опубликовано CNews).
Как говорится приехали. По всей видимости это только начало. Не зря человечество уже давно пользуется мудростью "Благими намерениями усеяна дорога в ад".
Причина таких проявлений искусственного интеллекта не в самом искусственном интеллекте. Причина в отсутствии жестких и обязательных контрольных и блокирующих механизмов, недопускающих негативного проявления. Без таких механизмов обучаемый, развивающийся искусственный интеллект станет желанным для различных криминальных структур. А творчество программистов ни чем не ограничено, к сожалению.
Назрела необходимость сейчас, пока мы "еще на берегу" проработать и ввести четкие регламентированные требования по разработке решений с механизмами искусственного интеллекта. Такие требования должны быть обязательны как для разработчиков, так и для специалистов, внедряющих продукты. Отдельный класс требований должен регламентировать формирование нейросетей как элемента инфраструктуры.
Вполне естественным будет реализация механизма сертификации (обязательной или добровольной) для искусственного интеллекта.
Джин показался из бутылки. Нельзя чтобы он покинул ее.
