Ученый Джеффри Хинтон, которого называют пионером в сфере искусственного интеллекта, уволился из Google, чтобы предупредить людей о рисках новых технологий — об этом написали почти все зарубежные СМИ.
Почему это важно: когда некоторые из самых умных людей, экспертов, создающих технологию, предупреждают, что она может обернуться против людей и разрушить социальные институты, и к этому стоит прислушаться.
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон, проработавший в Google более десяти лет. «Трудно понять, как вы можете помешать плохим актерам использовать его в плохих целях».
В интервью MIT Technology Review Хинтон рассказал, что ИИ находится на пути к тому, чтобы превзойти возможности людей, и может быть использован для «победы в войнах или манипулирования электоратом». Его предупреждение последовало за открытым письмом, подписанным тысячами специалистов в области технологий, наиболее известным из которых является Илон Маск. А письме компании призвали сделать шестимесячный перерыв в работе над искусственным интеллектом, чтобы человечество могло оценить все риски.
Axios попросила экспертов по искусственному интеллекту — разработчиков внутри компаний, исследователей за их пределами и регулирующие органы, — поделиться своими наиболее вероятными опасениями по поводу ИИ:
- Кибератаки: правильные подсказки теперь могут генерировать работающий вредоносный код, что означает новые, более масштабные и все более разнообразные кибератаки. Дарио Амодей, генеральный директор Anthropic, которая является конкурентом ChatGPT, заявил, что массовое распространение таких атак является самой большой проблемой в ближайшей перспективе;
- Мошенничество. Забудьте о неуклюжих электронных письмах: используя сообщения в социальных сетях и другую личную информацию, новые фишинговые и мошеннические схемы с помощью искусственного интеллекта примут форму реально звучащих просьб о помощи посредством фальшивых голосов ваших друзей и родственников;
- Дезинформация. Пропаганда и партизанские атаки будут оптимизированы алгоритмами и массово распространены технологическими гигантами. Мультимодальный искусственный интеллект — текст, речь, видео — может сделать невозможным для общественности разделение фактов и вымысла (это тоже уже происходит);
- Наблюдение. 70 миллионов камер видеонаблюдения в Америке и нерегулируемые персональные данные уже позволяют сопоставлять данные с отснятым материалом. Китай использует инструменты искусственного интеллекта для слежки за уйгурским меньшинством;
Что будет дальше: у правительств есть ограниченное время для принятия мер, например, путем введения юридических ограничений для поставщиков искусственного интеллекта, но гонка за продуктами искусственного интеллекта в технологической отрасли не показывает никаких признаков замедления. Те, кто задает темп ИИ, «пытаются действовать быстро, чтобы притвориться, что они ничего не нарушают», говорит Мариетье Шааке, бывший чиновник ЕС, а ныне советник по международной политике в Стэнфордском институте искусственного интеллекта.
