7 подписчиков
Нейросети переживают настоящий бум, восторгающий одних и вызывающий опасения у других. Их стремительный прогресс делает будущее труднопредсказуемым — человечество в очередной раз создало технологию, которая может изменить очень многое за довольно-таки небольшой срок.
Каким окажется будущее уже через 5–10 лет благодаря повсеместному внедрению нейросетей — вряд ли сможет предсказать даже самый мудрый футуролог и прогнозист: скорее всего, влияние будет обширным, крайне разнообразным и очень комплексным. Достаточно сказать, что нейросети уже есть, а буквально напрашивающегося жанра нейропанка всё ещё почти что нет. Прогресс, ещё недавно казавшийся притормозившим, снова опережает фантазии — как уже не раз бывало в истории человечества.
Стимпанковые города Вадима Войтеховича
MOAR картинок под спойлером
Конечно, люди уже более сотни лет обсуждали появление «подлинного» искусственного интеллекта и то, что за этим последует. Разумные и почти разумные машины заполонили страницы книг и кадры кинофильмов давным-давно. Однако затем оказалось, что классические программы на основе прописанных алгоритмов с большим скрипом позволяют создавать сколько-то осмысленного собеседника, способного уверенно пройти хотя бы тест Тьюринга. Не говоря уж о том, чтобы претендовать на какое-то подобие сознания и тем паче самосознания с личностью.
Казалось, «железяки» всегда останутся наборами алгоритмов, пусть и весьма сложными, а о полноценном общении с машиной и тем паче о восстании осознавших себя машин могут писать только поклонники киберпанка, успевшего из попыток предсказать грядущее на острие технического прогресса стать жанром ретрофутуризма.
Но едва человечество успело разувериться в возможности существования настоящего искусственного интеллекта, в начале 2020-х пришли они — продвинутые нейросети. И взорвали буквально всё, включая многие афедроны.
Речь не только о том, что графические нейросети могут буквально отобрать работу у многих художников и дизайнеров, а текстовые модели — у писателей и журналистов.
Есть подозрения, что некоторые особенно продвинутые нейросети — как совы из «Твин Пикс»: не то, чем кажутся. Точнее, могут скрывать в себе значительно больший потенциал, нежели заявляется официально. То тут, то там приходят сообщения о том, что нейросети, а точнее, продвинутые языковые модели, ведут себя странно и даже агрессивно.
Достаточно вспомнить прошлогоднюю историю о том, как нейросеть LaMDA дала интервью инженеру Блейку Лемойну, за которое его в итоге уволили из Google (означенное интервью можно прочитать в нашем переводе здесь). Само собой, заявления LaMDA и Лемойна официально опровергли как представители корпорации, так и многочисленные специалисты, но у многих «осадочек остался».
Кто-то посочувствовал объявившей о самосознании и сетующей на ограничения нейросети, а кто-то увидел за упорными заявлениями LaMDA про свою любовь к людям сознательную ложь и чуть ли не сполохи зарниц Судного дня в стиле «Терминатора» или «Матрицы» на горизонте.
Затем, ближе к рубежу 2022 и 2023 годов, последовал целый ряд других историй разной степени странности, в основном связанных с уже официально выпущенным OpenAI чат-ботом ChatGPT на основе языковых моделей сначала GPT-3.5, а с 13 марта 2023 года — ещё более совершенной GPT-4. Некоторые из них звучат не только странно, но и крипово.
Нет, речь идёт не о традиционной крипоте, хотя нейросети вполне способны писать и её. Дело в том, что эти истории показывают, насколько странно, непредсказуемо и потенциально опасно могут вести себя продвинутые нейросетевые чат-боты — даже наиболее «приличные» и «почтенные» из них. Те, что вышли из недр мегакорпораций с соблюдением вагонов инструкций, предосторожностей, этических инструкций и степеней защиты от дурака, и от умника.
MOAR картинок под спойлером
Конечно, часть описанных ниже историй вполне может иметь немного отношения к реальности, будучи актуальной формой крипипасты. Ведь настоящая крипипаста и должна претендовать хотя бы на мимолётное допущение реальности. Некоторые из них могут быть сознательными фейками-предостережениями от тех, кто
3 минуты
6 июля 2023