- Бывший главный научный советник правительства заявил, что депутатам нужно "продвигаться вперед"
- Сэр Патрик Вэлланс считает, что ИИ вызовет первоначальный "спад экономического производства"
- Но он признает, что в медицинской промышленности могут быть некоторые преимущества
Искусственный интеллект (ИИ) может оказать такое же большое влияние на карьеру, как промышленная революция, предупредил сэр Патрик Вэлланс.
Бывший главный научный советник правительства подчеркнул, что депутатам необходимо "продвигаться вперед" в разгар глобального технологического бума.
Признавая его потенциальные преимущества в таких отраслях, как медицина, сэр Вэлланс выразил обеспокоенность по поводу искажения истины и сокращения рабочих мест.
"Я думаю, все были удивлены тем, насколько большие генеративные модели сделали то, чего люди от них не ожидали", - сказал он на заседании комитета.
"И потом, я думаю, есть три сферы общества, о которых нужно подумать.
"Во-первых, с большими моделями и потенциалом, как вы определяете, что верно, а что нет? Поскольку вы можете получить тиражирование всевозможных вещей.
"И второе - это окажет большое влияние на рабочие места. И это влияние может быть таким же значительным, как промышленная революция.
"Как мы собираемся думать об этом в течение немного более длительного периода времени?
"И третье, конечно, это то, что происходит с этими устройствами, когда они начинают делать то, чего вы на самом деле не ожидали, и каковы риски, связанные с этим? Это может быть несколько более долгосрочным вопросом.'
Мысли бывшего советника появились после того, как человек, которого многие считают крестным отцом ИИ, Джеффри Хинтон, уволился с работы в Google и сказал, что некоторые опасности чат-ботов с искусственным интеллектом "довольно пугающие".
Мистер Хинтон сравнил его с "отцом атомной бомбы" Робертом Оппенгеймером, который, как сообщается, стыдился своего изобретения и посвятил остаток своей жизни прекращению его распространения.
В разгар бурного развития искусственного интеллекта в Силиконовой долине сэр Вэлланс сказал, что правительствам сейчас нужна возможность прощупать крупных технологических гигантов и лучше их понять.
Он считает, что первоначальный эффект этого бума будет заключаться в снижении экономического производства, поскольку люди теряют работу и перестраиваются, а затем в конечном итоге получат выгоду.
"Я думаю, нам действительно нужно опередить это. Какие рабочие места, сектора пострадают больше всего ", - продолжил он.
"И каковы планы по переквалификации и возвращению людям их времени, чтобы они могли выполнять работу по-другому, потому что будут рабочие места, которые могут выполняться ИИ, что может означать либо то, что у многих людей нет работы, либо то, что на самом деле у многих людей есть работа, которую могут выполнять только люди.
"И в области, о которой я знаю больше всего в этом – в медицине – это может заключаться в том, что вы действительно проводите больше времени со своим врачом, а не подвергаетесь давлению. Так что это может быть хорошим результатом.'
Несмотря на это, недавние исследования показывают, что ChatGPT может предоставлять <a>ответы более высокого качества с большим количеством сочувствия</a><a>у</a>, чем настоящие врачи.
Всемирно известный бот недавно вызвал переполох в медицинском сообществе после того, как было установлено, что он способен сдать экзамен золотого стандарта, необходимый для медицинской практики в США, что повышает вероятность того, что однажды он сможет заменить врачей-людей.
Признавая, что ИИ является "глобальной проблемой", сэр Вэлланс подчеркнул, что замедление его развития также не представляется разумным.
Он сказал: "Нет смысла думать, что вы можете защитить себя от чего-то, что вы могли бы рассматривать как вредное воздействие индивидуально, потому что вы этого не сделаете. И поэтому действительно должна быть международная позиция относительно того, как думать об этом.
"А также, с точки зрения регулирования, что вы на самом деле хотите регулировать? Мое личное мнение таково: вы не регулируете развитие технологий, но вы хотите очень тщательно продумать их применение.'
Перед лицом этих проблем бывший советник подчеркнул, что одной из самых насущных проблем является искажение истины.
Он сказал: "Как вы убедитесь, что результаты ИИ не искажают восприятие истины?
"И мне кажется, на это можно посмотреть, и были бы способы подумать о том, чтобы пометить что-то как результат ИИ там, где это уместно, чтобы в конечном итоге люди непреднамеренно не подумали, что что-то было чем-то, чем это не было".
Чтобы справиться с этим, он также добавил, что не быть частью Горизонта ЕС было бы "ошибкой".
Эта программа является научно-исследовательской инициативой, помогающей решать такие проблемы, как изменение климата, в дополнение к финансированию социальных аспектов ИИ.
"Я думаю, мы создали бы себе проблемы, если бы не продолжали быть частью этого", - сказал он.
Его мысли пришли в голову после того, как около 15 нобелевских лауреатов написали премьер-министру после сообщений о потенциальной исследовательской программе под руководством Великобритании.
Эта инициатива, получившая название Pioneer, будет "Планом Б", разработанным министрами.
Отвечая на вопрос о Pioneer, сэр Вэлланс сказал, что ему нравятся некоторые аспекты, но "Horizon - это план А, и вам лучше придерживаться плана А".
"Европейской программе финансирования, вероятно, потребовалось десятилетие, чтобы наладить работу, так что это говорит о том, сколько времени потребуется для создания этих схем", - сказал он.
"Таким образом, идея о том, что вы можете мгновенно создать что-то эквивалентное ..., я думаю, ошибочна".
Самые страшные разработки в области ИИ на сегодняшний день: от "Баленсиаги Поупа" до фальшивого ареста Трампа и глубоких подделок
Изображение папы Франциска в блестящем белом пуховике, с длинной цепочкой с крестом и бутылкой воды в руке - последний пример опасностей ИИ.
Стильный понтифик был создан создателем изображений Midjourney, который также стоял за шокирующими фальшивыми сценами ареста Дональда Трампа сотрудниками полиции в Нью-Йорке.
Видеоролики-подделки также продемонстрировали злую силу ИИ, позволяя пользователям создавать клипы с общественными деятелями, распространяющими дезинформацию, - и эксперты прогнозируют, что 90 процентов онлайн-контента будет создано таким образом к 2025 году.
Эти пугающие разработки в области ИИ, похоже, являются лишь верхушкой айсберга.
Илон Маск, соучредитель Apple Стив Возняк и более 1000 технологических лидеров призывают к паузе в "опасной гонке" по разработке ИИ, которая, как они опасаются, представляет "серьезный риск для общества и человечества" и может иметь "катастрофические" последствия.
Созданное ИИ изображение Папы Франциска, опубликованное в пятницу на Reddit, на этой неделе вызвало волну в Интернете, в конечном счете потому, что общественность поверила в его реальность.
"Я думала, что пуховик папы римского настоящий, и не придала этому значения", - написала в Твиттере модель и писательница Крисси Тейген. "Я ни за что не переживу будущее технологий".
Эксперты также оценили реалистичный образ ИИ.
Эксперт по веб-культуре Райан Бродерик сказал, что изображение папы римского было "первым реальным случаем массовой дезинформации ИИ".
Изображение, однако, сопровождалось галереей поддельных фотографий, показывающих, как это могло бы выглядеть, если бы Трамп был арестован, - но общеизвестно, что они были созданы искусственным интеллектом.
Журналист Bellingcat Элиот Хиггинс создал изображения в этом месяце, на которых видно, как Полицейские преследуют Трампа по улице, в то время как его жена Мелания кричит. На других изображен бывший президент в тюрьме в оранжевом комбинезоне.
"Законные думали, что это реально", - написал один человек в Твиттере, в то время как другой сказал: "Нам действительно следовало бы поставить на них водяные знаки, которые показывают, что они созданы искусственным интеллектом, а не реальны".
Это произошло после того, как Трамп бездоказательно заявил, что он будет арестован сегодня, и призвал своих сторонников "протестовать, протестовать, протестовать" в ответ на возможное обвинение в связи с предполагаемыми выплатами бывшим президентом скрытых денежных средств порнозвезде Сторми Дэниелс.
В Интернете также наблюдается бум подделок видео и изображений, на которых влиятельные фигуры передают дезинформацию.
Генеральный директор Meta Марк Цукерберг был использован в ролике, где он поблагодарил демократов за их "службу и бездействие" в отношении антимонопольного законодательства.
Группа защиты прав потребителей Demand Progress Action сняла видео, в котором использовалась технология deepfake, чтобы превратить актера в Цукерберга.
Совсем недавно, в феврале, несколько женщин-звезд Twitch обнаружили свои изображения на поддельном порно-сайте ранее в этом месяце, где они были замечены за половыми актами.
В настоящее время никакие законы не защищают людей от того, чтобы ИИ преобразовал их в цифровую форму.
