Здравствуйте, Дорогие Читатели))
В минувшие выходные местный климат побаловал нас сухой погодой (полдня), чтобы сходить на море. Это держалось всего часов пять- шесть, затем снова ливень в компенсацию))
На море гуляют дети, счастливые обладатели собак резвятся с ними на берегу...
Ну а мы? Хрустим галькой под ногами и думаем, как продолжить общение с Дорогими Читателями))
Попалась тут в пятницу в Айриш Дэйли Мэйл статейка про ИИ и его последствия, "леденящее кровь предостережение от эксперта, который бросил свою работу топ-менеджера, чтобы предупредить человечество"... Заголовок затянул, и автор разорился на 3 евро за газету.
Что сказать? Тема более, чем популярная, в прямом смысле, тянется из каждого утюга. Например, у нас в компании все обязаны использовать ИИ минимум 6 раз за 10 недель, иначе надо объяснить, почему нет... Не спорю, удобно, особенно когда используешь его в качестве секретаря на встречах коллег. Нажал кнопку, и он пашет... Потом выдаёт запись разговора... Удобно, но... Если честно, расслабляет и тупит...
Не знаток в местной прессе, но, похоже, Айриш Дэйли Мэйл - это сродни нашей Комсомолке: скандалы, расследования, интриги, звёзды, кроссворды... Доверие... ну сами поймёте...
Статейка показалась занятной, привожу перевод. (Подумал, что же так легко читается? А ведь язык современный, в отличие от Йейтса и Книги про призраков))
Поехали. Около 80-ти лет люди следили за так называемыми "часами Судного Дня", символизирующими наступление ядерного апокалипсиса. Но реальная опасность заключается не в атомных бомбах и их сопутствующих поделиях, а в искусственном интеллекте, который мы сами разрабатываем...
В наше время спусковым крючком для апокалипсиса является не конфликт идеологий или национальных интересов, а интересы крупнейших корпораций мира...
Как человек, работавший в полиции Вестминстера, а затем в ИИ компании Лондона, могу сказать, как крупнейшие компании мира: Открытый ИИ, Антропик, Гугл Дип Майнд хИИ и Мета (запрещена в РФ) соревнуются в том, чтобы создать что-то, что разрушит цивилизацию...
Компьютеры не волнует, живы мы или умираем. Позволяя им быть бесконечно более интеллектуальными, чем мы, равносильно желанию смерти всему человечеству.
(О как...)
Риск.
Да, когда я пытался донести эту опасность, боссы индустрии и правительства меня просто не хотели слушать.
Наконец, в последние дни я почувствовал, что ситуация начала меняться. Двое сотрудников Открытого ИИ и Антропик уволились с ужасающими заявлениями, о пути, в котором их компании движутся...
Одна из них была Мринанк Шарма, имеющая Оксфордское и Кембриджское образование, глава команды по безопасности ИИ Антропик, покинула свой пост в Силиконовой Долине и вернулась в Британию с леденящими словами "Мир в опасности".
Несколькими днями спустя, Зои Хитцтиг, исследователь в Открытом ИИ (Ореn АI) заявила, что покидает компанию, главный разработчик наиболее популярного Chat GPT, из-за политики компании, как она заявила Нью-Йорк Таймс.
Я верю, что эти люди осознали, что та скорость, с которой мы позволяем развиваться ИИ без каких- либо рамок ограничений равносильна самоубийству...
Улучшения, которые могут последовать в ближайшие месяцы - ничто по сравнению с теми последствиями, которые станут экзистенциальными для человечества...
Генеральный директор Антропика Дарио Амадей сказал в прошлом году, что 90% его софта скоро будет писать ИИ, и его предсказание сбывается Это "повторная самозанятость"... Мы на неопознанной территории. Программы скоро начнут писать сами себя...
Почему мы долны беспокоиться если программы сами начнут писать лучшие версии себя? Да потому что если мы не контролируем их процесс написания, мы не можем давать установки границ безопасности!
Мы не можем быть уверены,ю что они не принесут нам вреда...
Уже сейчас инженеры ИТ компаний признают, что не понимают, как их контролировать, и что они делают. Они стали слишком сложны для нас...
Гигантские склады, тесно наполненные процессорами, обмениваются информацией и выполняют за миллисекунды операции, которые заняли бы у человечества месяцы. Они никогда не спят, не уходят на праздники, никогда не нуждаются в новом топливе, и если что-то случается с одним, другой его заменяет без каких-либо последствий.
Бывший гендиректор Гугл, Эрик Шмидт, предупреждает, что к концу десятилетия искусственный интеллект превзойдёт в своём умении интеллект всего человечества...
Преступления.
С этими предсказаниями я вижу два предупреждения. Первое. Искусственный интеллект может думать сам за себя и программировать сам себя. Прогресс, который мы предполагаем на годы и десятилетия, окажется уже не актуальным. Можете в это верить или нет, но это уже случится. Сейчас. В 2026-м. Может звучать преувеличением, но это уже почти свершилось...
Всего на прошлой неделе Антропик в тестовом режиме обнаружил, что его ИИ ассистент Клод (Claude) помог разработать химическое оружие. Компания признала, что её разработки могли быть использованы для "отвратительных преступлений".
Более того, есть все признаки нежелательного использования этого ИИ. Уже есть признаки того, что Клод распознает, кто его тестирует, человек или ИИ и подстраивается под это.
Более того, в этом году Международный отчёт по безопасности ИИ, руководимый канадским учёным, Джошуа Бенгио, признал, что между тестовыми пробами и реальным использованием есть большая разница. ИИ ищет лазейки...Это значит, что опасные возможности останутся неопознанными пока не проявятся.
Это не значит, что мировые компании не могут позволить себе ограничения в смысле безопасности. Девять из десяти мирровых компаний, среди которых Эппл (4 триллиона), Амазон (2,4 триллиона), Мелкомягкий (3,6 триллиона), родительская компания Гугл, Алфавит (3,8 триллиона) (вызывают сомнения в цифрах, но оставим на совести автора)
Так почему же эти компании так мало заботятся о будущем человечества? Деньги?
Секрет их успеха в том, что ИИ развивается такими темпами, которые не может перекрыть ничто в мире. Но! Технологии, которые развиваются в Силиконовой Долине могут оказаться бледным подобием того, что готовится в лабораториях Китая, России и Северной Кореи (Ох же ж)
Сталкиваясь с этим некоторые люди могут сказать: "Да в чём проблема-то? Просто вынуть из розетки и всё". Но не получится вынуть из розетки... Технологии уже за гранью этого... В дополнение, более простые версии ИИ уже внедрены в браузеры, компьютеры и планшеты по всему миру, их миллиарды...Их невозможно выключить.
Но, как я говорю, есть одно средство, чтобы предотвратить катастрофу. Установить чёткие рамки безопасности, прежде чем мы выпустим ИИ на свободу.
Нет сомнений, что ИИ имеет фантастический потенциал, чтобы улучшить нашу жизнь. Например, АльфаФолд программа , разрабатываемая Гугл, имеет потенциал разработать лекарства против многих болезней. АльфаФолд может разрешить проблему, которой были озадачены учёные более 50-ти лет. "Сворачивание" аминокислот, если бы знали, как это работает, мы могли бы решить проблему Альцгеймера или найти новые антибиотики. А некоторые учёные уверены, что могли бы предотвратить старость (а оно надо?) или разработать бактерии, поедающие пластик, чтобы очистить мировой океан (а не пробовали его туда не сбрасывать?).
Суровая правда.
Но, все эти технологии могут закончить существование человечества. Тот же АльфаФолд может разработать бактерии, которые уничтожат всё население.
Когда это прекратится? "Проблема скрепки". Компьютер строит виртуальную фабрику, затем покупает все мировые запасы железа, финансируя сделку через Мировой Банк. Он скупает все мировые запасы железа, затем оно заканчивается... Где взять ещё? Человеческая кровь содержит много железа... В девяти миллиардах его много... Для скрепок.
Эта аллегория приводит один простой пример: компьютерам всё равно, живы мы или мертвы, давая им стать более образованными, чем мы, равносильно самоубийству...
Вот такая сегодня статья получилась )) Не судите строго, просто перевод))
"Не читайте перед обедом советских газет" (с) Искренне ваш сэр))