Крутой лонгридище, в котором автор собрал высказывания практикующих (это важно) светил цифрового и техномира о рисках, связанных

Крутой лонгридище, в котором автор собрал высказывания практикующих (это важно) светил цифрового и техномира о рисках, связанных с появлением ИИ https://m.geektimes.ru/post/287056/

Все приведённые имена массово не так известны, как Маска, Хокинга, Гейтса, поэтому у каждого эксперта подробно расписаны его заслуги с соответствующими ссылками. Сногсшибательный объём работы. Приведены ссылки как на скептиков, так и на обеспокоенных появлением сверхмощного ИИ.

Совсем краткие выводы такие: сингулярности и появления ИИ, во много раз превосходящего коллективный разум, бояться стоит. Но запрещать разработки — не выход, лучше отслеживать изменения и регулировать процесс работы над ИИ с разных сторон (политической, законодательной, философской, экономической, этической и тд.).

Больше всего мне показалось интересным высказывание Юргена Шмидхубера — профессора ИИ в Университете Лугано и бывшего профессора когнитивной робототехники в Мюнхенском технологическом университете. Он разрабатывает одни из самых передовых нейросетей в мире, работает над эволюционной робототехникой и теорией сложности вычислений, и служит научным сотрудником в Европейской академии наук и искусств.

«В книге "Гипотезы сингулярностей" он утверждает, что "при продолжении существующих трендов мы столкнёмся с интеллектуальным взрывом в следующие несколько десятилетий".

Когда на Reddit AMA его напрямую спросили о связанных с ИИ рисках, он ответил:

"Беспокойство Стюарта Рассела по поводу ИИ кажется разумным. Можем ли мы что-нибудь сделать, чтобы управлять влиянием ИИ? В ответе, спрятанном в соседнем треде, я указал: на первый взгляд, рекурсивное самоулучшение машин Гёделя предлагает нам путь к созданию будущего сверхинтеллекта. Самоисправление машины Гёделя в каком-то смысле оптимально. Она будет делать только те изменения в своём коде, которые доказано улучшат ситуацию, согласно изначальной функции полезности. То есть, в начале у вас есть возможность отправить её по правильному пути. Но другие люди могут снабдить свои машины Гёделя другими функциями полезности. Они будут соревноваться. И получившейся экологии индивидов некоторые функции полезности будут лучше подходить к нашей физической вселенной, чем другие, и они найдут себе нишу для выживания"».