Недавно в сети прокатилась новость о том, что Илон Маск и Марк Цукерберг заочно поспорили о потенциальной опасности искусственного интеллекта для человечества. Маск, напомним, выступал за тщательный контроль развития ИИ, а глава Facebook видит в нём незаменимого помощника. Вскоре после этого со второй компанией судьба сыграла злую шутку — её же боты взбунтовались против её же специалистов. В ходе эксперимента два ИИ Facebook начали разговаривать на собственном языке, из-за этого опыт был экстренно приостановлен.
Конечно, программы не начали произвольно отключать по всему миру компьютеры или что-то в этом роде, но их поведение всё равно насторожило специалистов. Дело в том, что для «тренировки» ботов Боб и Элис заставили говорить друг с другом на английском языке. Некоторое время ИИ следовали указанием человека, но в какой-то момент дали сбой и начали обмениваться сообщениями, которые были понятны только им. Вот пример их переписки.
Боб: Я могу могуЯЯ все остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня.
Как объяснили специалисты, Боб и Элис посчитали английский язык неэффективным и начали его усовершенствовать. Ну а причина сбоя в том, что обучение программ построено на «поощрении» за использование английского. В какой-то момент от оператора не прошёл сигнал «поощрения», и машины начали адаптироваться. Потенциальную опасность инцидента специалисты видят в том, что боты показали пример самостоятельности и независимости от человека.
