Появившаяся в конце 2022 года нейросеть ChatGPT, пожалуй, стала самой громкой новостью в сфере Искусственного Интеллекта. И самой обсуждаемой темой среди IT-специалистов всего мира стало то, насколько ИИ вдруг сподобился выдавать такие осмысленные высказывания и суждения, коих никто и не ожидал от него, что в какой-то момент случилась просто невероятная трансформация количества в качество.
Оказывается, алгоритмы слишком быстро обучаются, а вот эмпатия почти отсутствует. И это очень обеспокоило учёных. Да что там обеспокоило! Просто поставило в тупик даже опытных специалистов по искусственному интеллекту. В частности, профессор Калифорнийского универа в Беркли Стюарт Рассел рассказал о рисках для людей в случае дальнейшего инвестирования в ИИ.
Побочный эффект – массовые убийства
Например, одним из таких рисков, которые связаны с ИИ, профессор считает то, что машину научили выбирать тот метод решения поставленной задачи, который является наилучшим в данный и конкретный момент текущего времени. В буквальном смысле «наилучший здесь и сейчас». И неважно, какие катастрофические долгосрочные последствия будут иметь место в перспективе.
Например, искусственному интеллекту поставили задачу о решении проблемы глобального повышения температуры на Земле. ИИ проанализировав сотню вариантов, не преминул выдать в итоге ответ типа «природа сможет оздоровиться, если избавиться от всех абсолютно людей – это целесообразнее всего, глупый ты человек…» И самое любопытное, что это и был самый действенный и оперативный способ, чтобы быстро решить проблему глобального повышения температуры на Земле здесь и сейчас, как было сказано выше.
Понятно, что такие важные задачи на откуп суперкомпьютерам никто отдавать и не собирается, но знать и помнить заветы Сары Коннор нужно крепко: человечество вполне может сгинуть из-за побочных эффектов от бескомпромиссных решений, принятых искусственным интеллектом.
Проникновение ИИ в жизнь людей сравнимо с инопланетным вторжением
Профессор Стюарт Рассел также уверяет, что в ближайшие 10 лет мы сможем столкнуться с уже настолько мощным искусственным интеллектом, что его всеобъемлющее проникновение в человеческую жизнь, причём во все её сферы, можно будет сравнить с вторжением инопланетной цивилизации, в разы более продвинутой и развитой.
Рассел признался, что ожидал возникновение такого уровня искусственного интеллекта только лет через 30-40, но ворвавшийся в жизнь людей ChatGPT заставил профессора пересмотреть свой прогноз и всерьёз призвать представителей политических элит начать регулировать сферу ИИ.
В итоге, 22 марта 2023 года было опубликовано открытое письмо с предложением приостановить разработки в области ИИ на шесть месяцев для того, чтобы сначала научиться контролировать его.
На сегодняшний день под письмом уже стоит 31 810 подписей руководителей и сотрудников IT-отрасли, международных компаний, профессоров разных университетов и граждан разных государств.
Среди тех, кто подписал одними из первых это письмо:
- генеральный директор Twitter, основатель Neuralink миллиардер Илон Маск;
- соучредитель Apple Стив Возняк;
- профессор Калифорнийского универа в Беркли Стюарт Рассел;
«Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти численностью, перехитрить и заменить устаревших нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — задаются вот такими вопросами в послании авторы.
Разрабатывать такие мощные системы искусственного интеллекта, по мнению подписавших письмо, можно только тогда, когда все будут уверены, что эффект от ИИ будет исключительно положительным, а риск управляемым.
Друзья, если вам эта информация была интересна, ставьте лайки, делайте репосты в социальных сетях и чтобы не пропустить новые публикации, подписывайтесь на мой канал. На нём подобная информация публикуется частенько и есть возможность её обсудить в комментариях.
Спасибо, что дочитали.
Смотрите также:
Компания Илона Маска «Neuralink» получила допуск на проведение клинических испытаний на человеке
Время - это нечто, что мы все имеем в равной мере
Искусственный интеллект встал на путь конвенциональной битвы или Что там говорила Сара Коннор?
Использование искусственного интеллекта в такси
Умнее ли нейросеть человека?
Искусственный интеллект в качестве голосовых помощников
Робот-врач? Про искусственный интеллект в медицине
Так что/кто ты, искусственный интеллект?