Мы знаем очень мало о том, как работают системы ИИ, так как же мы узнаем, станет ли ИИ сознательным?
Многие люди в ИИ знакомы с историей Механического Турка. Это была шахматная машина, построенная в 1770 году, и она была настолько хороша, что противники были обмануты, заставив поверить в ее сверхъестественную мощь. На самом деле в машине было место, где человек мог спрятаться и управлять ею. Мистификация продолжалась 84 года. Это три поколения!
История богата примерами людей, пытающихся вдохнуть жизнь в неодушевленные предметы, а также людей, выдающих хаки и трюки за «магию». Но это самое человеческое желание верить в наличие сознания в машинах никогда не совпадало с реальностью.
Создание сознания в системах искусственного интеллекта — мечта многих технологов . Большие языковые модели являются последним примером наших поисков умных машин, и некоторые люди (спорно) утверждают, что видели проблески сознания в разговорах с ними. Дело в том, что машинное сознание — горячо обсуждаемая тема . Многие эксперты говорят, что она обречена навсегда остаться научной фантастикой, но другие утверждают, что она уже не за горами.
В последнем выпуске MIT Technology Review нейробиолог Грейс Хакинс исследует, что исследования человеческого сознания могут рассказать нам об ИИ, а также о моральных проблемах, которые поднимет сознание ИИ. Подробнее читайте здесь .
Мы не до конца понимаем человеческое сознание, но у нейробиологов есть некоторые подсказки о том, как оно проявляется в мозге, пишет Грейс. Чтобы констатировать очевидное, системы искусственного интеллекта не имеют мозга, поэтому невозможно использовать традиционные методы измерения активности мозга для выявления признаков жизни. Но у нейробиологов есть разные теории о том, как может выглядеть сознание в системах ИИ. Некоторые рассматривают это как особенность «программного обеспечения» мозга, в то время как другие более тесно связывают его с физическим оборудованием.
Были даже попытки создать тесты на сознание ИИ. Сьюзан Шнайдер, директор Центра будущего разума в Атлантическом университете Флориды, и физик из Принстона Эдвин Тернер разработали концепцию, согласно которой агент ИИ должен быть изолирован от любой информации о сознании, которую он мог получить во время обучения, прежде чем он будет протестирован. . Этот шаг важен для того, чтобы он не мог просто повторять человеческие утверждения о сознании, которые он уловил во время обучения, как это сделала бы большая языковая модель.
Затем тестер задает ИИ вопросы, на которые тот сможет ответить только в том случае, если он сам находится в сознании. Сможет ли он понять сюжет фильма «Чумовая пятница», где мать и дочь меняются телами, а их сознание отделяется от физического тела? Может ли он уловить концепцию сновидения или даже сообщить о самом сновидении? Может ли он представить себе реинкарнацию или загробную жизнь?
Конечно, этот тест не является надежным. Для этого требуется, чтобы субъект мог использовать язык, чтобы младенцы и животные — явно сознательные существа — не прошли тест. А модели искусственного интеллекта, основанные на языке, познакомятся с концепцией сознания в огромном объеме интернет-данных, на которых они обучались.
Так как же мы на самом деле узнаем, обладает ли система ИИ сознанием? Группа нейробиологов, философов и исследователей ИИ, в том числе лауреат премии Тьюринга Йошуа Бенджио, выпустила официальный документ, в котором предлагаются практические способы обнаружения сознания ИИ на основе множества теорий из разных областей. Они предлагают своего рода табель оценок для различных показателей, таких как гибкое достижение целей и взаимодействие с внешней средой, которые будут указывать на сознание ИИ — если теории верны. Ни одна из сегодняшних систем не отвечает каким-либо требованиям, и неясно, будут ли они когда-либо реализованы.
Вот что мы знаем. Большие языковые модели чрезвычайно хорошо предсказывают, каким должно быть следующее слово в предложении. Они также очень хорошо умеют устанавливать связи между вещами — иногда способами, которые удивляют нас и позволяют легко поверить в иллюзию, что в этих компьютерных программах могут быть искры чего-то еще. Но мы знаем удивительно мало о внутренней работе языковых моделей ИИ. Пока мы не узнаем больше о том, как и почему эти системы приходят к таким выводам, трудно сказать, что результаты моделей — это не просто причудливая математика.
Оригинальный источник тут.