Когда крысы бегут с корабля — это примета плохая. А когда из топовых IT-корпораций начинают уходить люди, отвечающие за безопасность Искусственного Интеллекта, становится совсем не по себе.
На днях мир технологий всколыхнула новость: глава отдела безопасности ИИ (имя в источнике не раскрыто, но речь о Шарме) покинул свой пост. И сделал это не тихо, «по семейным обстоятельствам», а с громким прощальным письмом, которое больше похоже на манифест-предупреждение.
«Мы слишком сильны, но недостаточно мудры»
В своем послании коллегам он заявил прямо: он достиг своих целей (например, разработал защиту от биотерроризма с помощью ИИ), но этого мало.
«Мир в опасности», — пишет Шарма. И дело не только в восстании машин или новых вирусах. Проблема в том, что человечество столкнулось с целым клубом кризисов одновременно.
Его главная мысль звучит почти как библейское пророчество: мы подошли к черте. Наши технологии дают нам божественную власть менять мир, но наша мудрость за этой властью не поспевает. Если «мудрость не вырастет в той же мере, что и способность влиять», нас ждут необратимые последствия. Грубо говоря: дай обезьяне гранату — и виновата будет не граната.
Куда уходят «стражи»?
Самое удивительное — куда направился бывший топ-менеджер. Он не ушел к конкурентам пилить еще более мощный ИИ. Он ушел... изучать поэзию.
Вдумайтесь: человек, который держал руку на пульсе самых страшных технологий, решил, что спасение (или покой) теперь нужно искать в стихах, а не в коде.
И он не один. Тенденция пугает:
- Ушел Херш Мехта (отдел R&D).
- Уволился Бехнам Нейшабур (ведущий спец по ИИ).
- Исследователь безопасности Дилан Скандинаро перебежал в OpenAI.
Складывается ощущение, что те, кто знает об ИИ больше нас, что-то поняли и решили сменить приоритеты.
Пока они философствуют, нам нужно быть начеку
Пока умы кремниевой долины рассуждают о судьбах мира и читают Байрона, нам с вами приходится жить в реальности, которую они создали. И эта реальность полна фейков.
Эксперты напоминают: в эпоху, когда видео может сгенерировать любой школьник, доверять глазам нельзя.
Как понять, что перед вами не человек, а дипфейк?
- Странная мимика. ИИ пока плохо «натягивает» эмоции на лицо.
- «Плывущие» детали. Очки врастают в нос, серьги исчезают.
- Свет и тени. Освещение на лице не совпадает с фоном.
- Голос. Интонация часто монотонная и не вяжется с выражением лица.
- Слишком идеально. Гладкая кожа без пор, идеальная симметрия — верный признак «цифры».
Будьте бдительны. Кажется, время, когда «мудрость должна расти», настало для каждого из нас, а не только для директоров корпораций.