привет друзья изначально искусственный
интеллект появлялся фантастических
произведениях как универсальный помощник
для человечества однако впоследствии у
фантастов стали зарождаться опасения
насчет того может ли он взбунтоваться
против своего же создателя и сегодня
когда внедрение искусственного
интеллекта все ближе какие риски на
самом деле стоят перед нами во время
выступления на конференции ted
исследовательница систем искусственного
интеллекта
жанель шейн подняла крайне интересный
аспект потенциальной опасности подобных
систем по ее словам нет причин бояться
того что нейронная сеть обучиться
настолько хорошо что обретет сознание и
пойдет против человечества все гораздо
более неоднозначно системы
искусственного интеллекта понимают
отдаваемые им команды слишком буквально
они не способны воспринимать
поставленной задачи с точки зрения
человеческого мышления поскольку лишены
подобного образа восприятия жанной
пришла к этому выводу загрузив в
нейросеть название 1500 вкусов
мороженного с целью сгенерировать новые
и уникальные полученные результаты никак
не могли прийтись по душе человеку хотя
технически задание было выполнено то же
самое произошло при моделировании
прохождения пути из пункта а в пункт б
вместо того чтобы идти по нему робот
складывался в огромную башню и
обрушивался на точку в которую должен
был прийти именно отсутствие
человеческого фактора в и считывание
решений и делает искусственный интеллект
не таким уж и опасно он крайне буквально
подходит к поставленным задачам что
делает его довольно примитивным но будет
ли искусственный интеллект также
безопасен в будущем
в приложении клевер but созданная ролла
карпентером хорошо зарекомендовала себя
в так называемом тест тьюринга
тест тьюринга состоит в следующем может
ли человек общающийся с другим человеком
и машиной на основании ответов
определить когда он говорит с человеком
а когда с искусственным интеллектом и у
клавы работа получилась обмануть немало
людей удачно сымитировав ход
человеческой мысли впрочем его создатель
roll a carpenter пока что не готов
уверенно называть искусственный
интеллект потенциальным злом карпентер
считает что от создания алгоритмов
способных воплотить по-настоящему
автономный искусственный интеллект нас
отделяют как минимум несколько
десятилетий эксперты считают что на
сегодняшний день технология ещё
недостаточно развиты чтобы действительно
представлять угрозу для людей но гораздо
опасней тот факт что это может произойти
по желанию представителей самого
человечества по неосторожности желание
облегчить себе жизнь может обернуться
далеко идущими последствиями в августе
2017 года 16 экспертов в области
искусственного интеллекта
из 26 стран написали фон открытое письмо
с призывом запретить оружие оснащенные
искусственным интеллектом в письме
говорится что вооружение оснащенные
искусственным интеллектом позволит вести
войну в совершенно новых масштабах и
откроет новые возможности для терроризма
при этом стоит обратить внимание на то
что он может выполнять задачи
неожиданным образом и к сожалению не
всегда во благо
один из примеров катастрофы самолета
boeing 737 max 8
авиакомпании эфиопия airlines
специалисты отмечают что система авто
пилотирования фактически перехватывало
управление у пилота во время полета
американская компания умалчивал об этой
проблеме но вторая катастрофа с
самолетом одной и той же модели за
несколько месяцев заставила признать что
бортовые системы с искусственным
интеллектом часто не помогали пилоту а
действовали вопреки его командам каковы
гарантии того что искусственный
интеллект в вооружениях при нынешнем
уровне технологий не окажется способным
перехватить управление у человека важный
вопрос для тех кто работает в этой сфере
также как показал недавний эксперимент
компаний open ой-ой искусственный
интеллект доказал что может
разрабатывать креативное решение в
реальном времени в ходе эксперимента
несколько агентов искусственного
интеллекта должны были научиться играть
в прятки и довольно быстро у них
получилась самостоятельно разработать
несколько оригинальных стратегий для
игры в дальнейшем искусственный
интеллект сможет выстраивать нужное
поведение и в более сложных условиях
уверяют разработчики чем это нам
аукнется остается только догадываться
как думаете сможет ли человек держать на
коротком поводке искусственный интеллект
