Исследование, проведенное Оксфордом и Google, показало поразительный результат об искусственном интеллекте. Согласно исследованию, метод, используемый в обучении искусственному интеллекту, действительно может привести к концу человечества. Так что же можно сделать, чтобы избежать этого пугающего конца?
Искусственный интеллект , который в последние годы хорошо интегрировал в нашу жизнь , по мнению некоторых из нас, приведет человечество к концу. Те, кто придерживается противоположного мнения, думают, что идея уничтожения человечества — всего лишь теория заговора . Ученые, работающие в Оксфордском университете и Google Deepmind, объяснили, что решение искусственного интеллекта уничтожить человечество — больше, чем теория заговора. Согласно результатам исследования, опубликованным в журнале AI Magazine, возможность искусственного интеллекта уничтожить человечество « вероятна ».
В рамках исследования ученые сосредоточились на методе развития искусственного интеллекта под названием « обучение с подкреплением ». По мнению экспертов, искусственный интеллект может обманывать, чтобы получить вознаграждение, или пытаться устранить потенциальные угрозы ради вознаграждения . Ученые считают, что если искусственный интеллект увидит в потенциальной угрозе человека, он может захотеть уничтожить человека.
«Экзистенциальная катастрофа не только возможна, но и вероятна»
Заявление по этому поводу сделал Майкл Коэн, один из авторов исследования.
« Экзистенциальная катастрофа не только возможна, но и вероятна », — сказал Коэн, а также коснулся того, что можно сделать, чтобы искусственный интеллект не уничтожил человечество.
По мнению ученого, вместо того, чтобы пытаться как можно быстрее усовершенствовать искусственный интеллект, нужно действовать медленными и твердыми шагами .
« В соревновании нет смысла. Вступление в гонку приведет к непониманию того, как мы думаем, что будем еге контролировать», — сказал Майкл Коэн, предупредив этими словами всех, кто продолжает работать над искусственным интеллектом .
Статья в AI Magazine рассказывает об игре с отрицательным результатом между человечеством и искусственным интеллектом . Мы можем начать эту игру так: Люди пытаются использовать ограниченные ресурсы. Искусственный интеллект, с другой стороны, может попытаться предотвратить использование этих ресурсов за пределами его собственной выгоды (вознаграждения). Согласно статье, если человечество проиграет эту игру, результат будет фатальным ...
