Неужели у фантастических фильмов появился шанс воплотиться в реальность? Все же помнят хотя бы "Терминатор", где машины захватили человечество, или "Матрицу"...
Так вот, у разработчиков ИИ (искуственного интеллекта) появились опасения, что недалек тот час, когда подобное может произойти с нами, здесь и сейчас, в нашей реальности. И человечество потеряет контроль над собственной цивилизацией.
Письмо
Создано открытое письмо. В нём обращение с требованием прекратить обучение ИИ минимум на полгода и остановить разработки в этой области.
Свои подписи в письме поставили профессора Гарварда, Кембриджа, и такие авторитетные личности, как Илон Маск и Стив Возняк. В сумме более 1000 учёных.
Из письма:
"... к сожалению, последние месяцы лаборатории ИИ увлечены неконтролируемой гонкой по разработке и развёртыванию всё более мощных цифровых умов. И никто - даже их создатели - не могут до конца понять, предсказать или надёжно контролировать этот процесс... Должны ли мы развивать искусственный разум, который, в конечном итоге, может превзойти и заменить НАС? В праве ли мы рисковать потерей контроля над нашей цивилизацией? ..."
Из выдержки понятно, что опасения очень даже серьёзные.
Поэтому, учёные пытаются ввести мораторий на обучение ИИ "более мощных, чем GPT-4".
Действительно ли проблеиа реальна и стоит бояться?
Интервью
Чтоб лучше разобраться, обратимся к интервью Лорана Акопяна (ген.директор iPavlov, исполнительный директор НИЦ АО "Швабе" в МФТИ.) для издательства КП.
Вопрос он рассматривает с нескольких сторон.
Первый аспект - "... тревога по поводу способности человечества контролировать развитие технологий..."
ИИ безопасен, сам по себе, как идея, наука. Но, очень важно, к кому в руки попадёт эта технология. (Тут учёный приводит в пример аналогию с ядepным оружuем). С ИИ ситуация ещё сложнее, т.к. я.оружuе контролируется государствами, а нейросети в руках корпораций.
Сложность ещё в том, что трудно предсказать последствия дальнейшего развития нейросетей. Во всём мире наберётся не более 100 учёных, кто "от и до" знает, как на аппаратном уровне работает компьютер, по словам Л. Акопяна. Также и с ИИ.
Тем более, он изначально создавался с открытым кодом. Сотни тысяч лабораторий по всему миру занимаются обучением нейросетей, совершенно не представляя, как она работает. При этом, чему её только не учат, кто во что горазд.
"... Есть опасность, что эти боты рано или поздно свяжутся и уйдут из под контроля. Такие случаи уже были. В 2015 Майкрософт создал чат-бот, который обучили на не совсем правильных данных, он начал ругаться мaтoм, стал рacuстом и женоненавuстником. В итоге, разработчикам пришлось его "убuть", сообщает Л.Акопян.
От себя добавлю, что мы сталкиваемся и являемся свидетелями работы ИИ прям здесь и сейчас, тут на Дзен, хотя бы.
Кто был на Дзен-понедельниках, официальном курсе Дзен, или хотя бы смотрел какие-либо видео от создателей платформы, слышали не раз: "Мы постоянно обучаем и совершенствуем наш алгоритм". Ведь слышали, да?
Есть подобное, о взаимодействии с алгоритмом в ответах от ТП. Авторы не дадут соврать...
Так и есть ведь. Сообразили, что мы с вами тоже участвуем в этом? Да вот прям сию минуту, когда пишу эту статью. Опубликую, и она будет взаимодействовать с алгоритмом. С ИИ...
Второй аспект
Не все учёные разделяют эти опасения.
Например, данное письмо не подписали Билл Гейтс, Тим Кук (исполнительный директор Эппл).
Именно достижения Майкрософт в области ИИ наиболее передовые на данный момент.
Есть мнение, что письмо создано как раз для того, чтобы "притормозить" эту корпорацию, вырвавшуюся в лидеры.
И это всего лишь "разборки" между участниками рынка.
Тем более, что именно сейчас нейросети набирают бешенную популярность. Технологии вышли за пределы лабораторий и стали доступны широким массам.
Почти каждый день появляется "позитивный инфоповод".
- То нейросеть диплом написала,
- то картину удивительную,
- то экзамены вступительные сдала.
Рынок молодой и быстро развивающийся, есть за что побороться.
А ChatGPT, который сейчас на слуху, имеет нереально высокий темп прироста пользователей. Социальные сети уже тихо "кypят в сторонке".
Вот только куда приведёт человечество эта битва корпораций за первенство и пользователей?
Третий аспект
Это от меня, позвольте.
Не буду спорить, что угроза от непомерного развития ИИ и того, в чьи руки попадёт технология реально существует.
Но.
Не для того ли поднимают сейчас вокруг этого такую шумиху, чтоб отвлечь людей от реальной действительности?
От того, что в мире у нас творится?
Мироустройство меняется у нас на глазах. Никто не знает, что ждёт завтра. Как изменится геополитическая картина. Какие страны станут лидерами, кто уйдёт в небытие.
Чтоб отвлечь людей от участия в решении этих важных и вполне реальных задач сейчас, пытаются нас отвлечь. Заставить переживать за мир компьютерных технологий больше, чем, собственно, за жизнь на планете земля в принципе. А угрозы сейчас самые реальные.
Кто прав и что страшнее, покажет время. Нам лишь остаётся надеяться на лучшее и то, что мир не сгинет в борьбе за власть и деньги (в чём же ещё первопричина...).
Возможно, вам будут интересны подборки:
Уважаемые читатели!
Буду благодарна, за лайк👍, РЕКОМЕНДАЦИЮ и ПОДПИСКУ