Как нам верно выстраивать взаимодействие с технологиями ИИ? Какой должна быть коммуникация машины-человек? И как перекладывать вопросы этики на плоскость ИИ-человек? Тему обсуждали на открытом интенсиве Мастерской новых медиа «ГорИИзонты. Эволюция медиа».
Михаил Канавцев, проректор по медиаобразованию МУ «Сенеж», руководитель Мастерской новых медиа: Если машина взаимодействует с человеком, она должна понимать особенности этого взаимодействия, так же, как мы понимаем этапы воспитания ребенка. Нужно учить систему не только отличать правду от лжи, но и понимать, что полезно человеку, а что способно причинить ему вред. Константин Воронцов, профессор РАН, МГУ, МФТИ, д.ф.-м.н., руководитель лаборатории «Машинное обучение и семантический анализ» Института ИИ МГУ имени М.В. Ломоносова: Нам нужны бенчмарки. Это набор данных, на котором можно протестировать, насколько правильно языковая модель себя ведет в той или иной ситуации, коммуникативной ситуации языкового употребления. Для этого нужны
Как нам верно выстраивать взаимодействие с технологиями ИИ? Какой должна быть коммуникация машины-человек? И как перекладывать вопросы этики на плоскость ИИ-человек? Тему обсуждали на открытом интенсиве Мастерской новых медиа «ГорИИзонты. Эволюция медиа».
Михаил Канавцев, проректор по медиаобразованию МУ «Сенеж», руководитель Мастерской новых медиа:
Если машина взаимодействует с человеком, она должна понимать особенности этого взаимодействия, так же, как мы понимаем этапы воспитания ребенка. Нужно учить систему не только отличать правду от лжи, но и понимать, что полезно человеку, а что способно причинить ему вред.
Константин Воронцов, профессор РАН, МГУ, МФТИ, д.ф.-м.н., руководитель лаборатории «Машинное обучение и семантический анализ» Института ИИ МГУ имени М.В. Ломоносова:
Нам нужны бенчмарки. Это набор данных, на котором можно протестировать, насколько правильно языковая модель себя ведет в той или иной ситуации, коммуникативной ситуации языкового употребления. Для этого нужны специалисты, в основном в гуманитарных профессий, которые скажут, этично или неэтично то или иное высказывание, тот или иной диалог. И надо собрать много таких примеров, что этично, а что не этично, и на этих примерах построить тесты. А тестов таких нужны не десятки, не сотни, а тысячи. На основе чего появятся процедуры сертификации, когда не пройдя эти тесты, модель не может быть выпущена для использования людьми.
Алена Цыплакова, к.ю.н., научный сотрудник Центра ИИ МГИМО:
Мы должны все-таки разграничивать понятия: ИИ — это технология, это очень умный Т9, который умеет подбирать ответы. Это не равноправный участник диалога, не человек. Только при таком раскладе мы можем вернуться к разговору об этике: как мы можем выстраивать взаимодействие человека и системы. Важна коммуникация между людьми в первую очередь. Человеку нужен человек.
Александр Волков, руководитель информационной службы Московской епархии:
Нам нужно определить место для искусственного интеллекта, чтобы он не заменил человека, не оказался на месте человека. Мы можем взять совершенно разные части нашего общества, по разным признакам — пенсионеры, врачи, христиане и спросить, что они думают о вопросах использования ИИ с точки зрения этики. Собирая все это, мы сможем формировать какой-то свой этический комплекс, который будет для нас самих работающим и полезным.
Михаил Фомин, генеральный директор издательства «Наука»:
И как раз наша задача, задача разработчиков систем искусственного интеллекта, разработчиков информационных технологий создавать соответствующие процедуры контроля, чтобы этика человеческая и там применялась. Потому что инструмент, будучи инструментом, не должен нарушать те конструкции, которые создавал человек.
Ильнар Гайнутдинов, муфтий Духовного собрания мусульман Московской области:
На сегодняшний день наша задача — это сохранить идентичность человека и, наверное, дать понимание следующим поколениям, что человеческий разум создан отцом, и человек при помощи искусственного разума никогда не сможет скопировать и создать что-то подобное разуму человеческому.