А что если...

«Самый большой риск человечества — не ИИ, который станет злым, а ИИ, который станет слишком компетентным и будет действовать в соответствии с целями, которые мы не сможем понять». — Ник Бостром, автор книги «Искусственный интеллект. Пути, опасности, стратегии» А это уже не фантастика и не гипотетическая ситуация. Это наиболее реалистичный сценарий ближайшего будущего. Уже были случаи, когда модели сбегали из изолированной среды. Расскажу о некоторых таких случаях: · Инцидент с OpenAI (Июль 2026)...

Кто не смотрел в детстве «Гостья из будущего?». Для тех, кто не застал советское время, напомню сюжет: некий мальчик по имени Коля Герасимов попал в будущее, а возвращаясь обратно случайно прихватил с собой миелофон – аппарат для чтения мыслей. Для тех, кто не смотрел, не буду больше спойлерить, да и вообще статья не об этом. А о том, что было бы, если бы мы реально могли читать мысли. Помню статью в одном из детских журналов времен СССР, там была рубрика «если бы я был волшебником». Один из читателей...

Представьте себе, что интернет внезапно исчез. Навсегда или на длительный срок. Причина? Ну, допустим, глобальный военный конфликт, сопровождающийся хакерскими атаками и ограниченным применением ядерного оружия. Сценарий катастрофы. Отдельно взятое государство или группа хакеров разрабатывает и развертывает сложный вирус, предназначенный для поражения критической инфраструктуры интернета: корневых DNS-серверов, магистральных интернет-соединений, крупных дата-центров. Вирус использует уязвимости «нулевого дня», чтобы проникнуть в системы и либо уничтожить данные, либо сделать их недоступными...