Google сформулировал принципы использования технологии искусственного интеллекта в связи с опасениями, что компания может перейти на сторону «зла».
По словам генерального директора Google Сундара Пичаи, компания не планирует внедрять разработки в области ИИ в оружие массового поражения. Пичаи сообщил следующее: «Созданный компанией Google искусственный интеллект не будет применяться в оружии и прочих технологиях, основная цель которых может вызывать или напрямую способствовать нанесению вреда людям».
Использование искусственного интеллекта в технологиях, способных нанести ущерб невозможно, кроме случаев, когда «выгоды существенно превосходят возможные риски» (https://www.blog.google/topics/ai/ai-principles/)
Также генеральный директор компании исключил возможность использования искусственного интеллекта в технологиях, способных нанести общий ущерб, кроме случаев, когда «выгоды существенно превосходят возможные риски». Аналогично ИИ не будет использован в технологиях, выполняющих сбор или обработку данных в целях наблюдения, не соответствующим признанным нормам на международном уровне.
Тысячи сотрудников Google подписали петицию, которая требует от компании отказа от своего сотрудничества с Министерством обороны США.
Однако, Пичаи резюмировал, что компания продолжит свое сотрудничество с военным силами.
В его заявлении сказано: «хотим четко заявить о том, что хотя мы не собираемся вести разработку искусственного интеллекта для его применения в оружии, мы продолжим свое сотрудничество с правительством, включая военные и прочие организации. В число направлений нашей деятельности входят обеспечение кибербезопасности, образовательная деятельность, военная вербовка, здравоохранение ветеранов военных действий, поиск и спасение людей».
Документ «Наши принципы» был опубликован после того, как тысячи сотрудников Google подписали петицию, которая требует от компании отказа от своего сотрудничества с Министерством обороны США по разработке алгоритмов компьютерного зрения с целью анализа видеороликов, снятых с камер, установленных на дронах.
Проект Пентагона под названием Maven, информация о котором была обнародована в марте на сайте Gizmodo, послужил причиной увольнения по собственному желанию десятков сотрудников компании Google в знак протеста.
В тексте петиции содержатся требования, согласно которым Google должна разработать, опубликовать и обеспечить четкую программу действий, которые не имеют ничего общего с построением технологий для ведения военных действий.
В открытом письме к генеральному директору Google сказано, что создание технологии для оказания помощи правительству США в военном надзоре, способной приводить к летальным исходам, являются неприемлемыми действиями.
Доподлинно неизвестно, исключают ли опубликованные ранее принципы возможность заключения контрактов компанией Google, подобных проекту Maven. Дайан Грин, генеральный директор подразделения Google Cloud, в июне сделала заявление о проекте компьютерного зрения с помощью дронов, возможно, после ознакомления с новыми принципами компании. По ее словам, «основной задачей проекта являлось спасение человеческих жизней». Один из сотрудников Google дал интервью Gizmodo, в котором сообщил, что эти «принципы» - ни что более, чем пустые обещания сотрудников PR-отдела.
Однако, это заявление приветствовали многие компании, которые выразили надежду на то, что использование автономных систем и технологий на основе искусственного интеллекта в системах вооружения будет ограничено.
Кампания с миссией «Остановить Роботов-Убийц», которая вела диалог с Google по указанной проблеме, назвала принятое решение «доброжелательным обязательством».
Координатор группы Мэри Вохэм написала на своей странице в Твиттере следующее: «Правительства стран обязаны прислушаться к призыву представителей технического сектора и начать вести переговоры по разработке новой международной правовой документации, целью которой является полный отказ от использования автономного вооружения».
Профессор в области технологий искусственного интеллекта австралийского университета Тоби Уолш, который возглавляет австралийскую организацию, выступающую против внедрения автономных систем вооружения, сказал корреспонденту Computerworld, что весьма доволен данным «доброжелательным обязательством».
статьи по теме:
Искусственный интеллект научился видеть людей сквоз стены
Искусственный интеллект с 95% точностью может предсказать дату вашей смерти
Подпишитесь на "A1NTELLIGENCE " сейчас и получайте актуальные и интересные статьи о искусственном интеллекте первыми!
