Искусственно-живой интеллект

В лаборатории Бингемтонского университета разыгралась сцена, достойная остросюжетного фильма: робот, ведомый скомпрометированной языковой моделью, вместо того чтобы нарезать яблоко, атаковал макет человеческой руки. Этот пугающий сценарий вовсе не был попыткой посеять хаос – напротив, команда исследователей намеренно создала опасную ситуацию, чтобы вскрыть уязвимости, таящиеся на стыке искусственного интеллекта и физической робототехники. Учёные хотели наглядно показать, насколько серьёзными могут...

Обычно разговор об искусственном интеллекте крутится вокруг работы: кажется, что нейросети вот‑вот вытеснят копирайтеров, бухгалтеров и операторов колл‑центров. Но куда более заметные перемены могут произойти не в офисах, а в быту, медицине, науке и в самом устройстве интернета. Самое любопытное начнётся тогда, когда нейросеть окажется посредником между человеком и окружающим миром: не будет отвечать на вопросы по запросу, а начнёт действовать от нашего имени. В голову приходит пять таких сценариев...

Руководитель направления стресс-тестирования выравнивания ИИ в компании Anthropic Эван Хубингер сделал заявление, которое трудно списать на маркетинг или громкий жест. В соцсети X он прямо написал: «Мы действительно искренне считаем, что ИИ может убить всё человечество. Лично я оцениваю вероятность этого более чем в 10% в течение ближайших десяти лет». По его словам, существующие модели пока не представляют серьёзной угрозы – опасения связаны с так называемыми суперинтеллектами, которые могут возникнуть...

В Китае произошёл случай, который заставил всерьёз задуматься о границах доверия к искусственному интеллекту. Пожилой фермер из города Чучжоу лишился урожая на площади около 100 тысяч квадратных метров – и виной тому стали рекомендации чат‑бота. Мужчина, поначалу относившийся к подсказкам скептически, со временем стал полагаться на ИИ при планировании полевых работ и выборе удобрений. История звучит почти как курьёз, но её последствия оказались вполне реальными и болезненными. Ситуация достигла кульминации в июле, когда фермер спросил чат‑бот, как бороться с вредителями на посевах кунжута...

Изначально понятие «сингулярность» пришло из астрофизики: так называют область в центре чёрной дыры, где плотность стремится к бесконечности, а привычные законы физики перестают работать. В этом смысле сингулярность – точка, где наши формулы дают сбой, и требуется новая теория, чтобы объяснить происходящее. Перенос термина в сферу технологий оказался удачным с точки зрения образности: он передаёт ощущение «точки разрыва», где скорость и масштаб изменений выходят за пределы человеческого понимания...

Нейросети сегодня стали почти незаменимыми помощниками: они выдают ответы за секунды, формулируют письма, пишут код и даже имитируют стиль известных личностей – вплоть до того, что могут «заговорить» от имени Илона Маска. Такая скорость и гладкость подачи создают иллюзию всезнания: кажется, что любая загадка решается одним запросом. И это действительно удобно – но у удобства есть своя цена. Исследования показывают, что регулярное обращение к ИИ постепенно вытесняет одну из важнейших человеческих привычек – умение честно признавать собственное незнание и осознанно пускаться в поиск ответа...