В своем развитии искусственный интеллект обретает признаки дарвиновской эволюции, и если не взять его под контроль уже сейчас — это несет экзистенциальные угрозы человечеству.
Профессор, изучающий ИИ, и эволюционные биологи объединили усилия, чтобы проверить, насколько современные разработки соответствуют эволюционным концепциям. Результаты их изысканий опубликованы в Proceedings of the National Academy of Sciences.
«Сила эволюции очевидна из развития жизни на Земле — именно она привела к возникновению человеческого разума. Мы считаем неизбежным, что прогресс ИИ-систем в конечном итоге — и, вероятно, скоро — использует эту силу», — полагает профессор Эёрс Сатмари из Университета Этвёша Лоранда, последний автор исследования.«Разработчики ИИ в конечном итоге подключат эволюцию к своим системам, потому что ее мощь огромна», — согласен заслуженный профессор ИИ Люк Стилс из Брюссельского свободного университета, соавтор статьи.
В своей работе они прогнозируют, что развитие ИИ приобретает свойства подлинной дарвиновской эволюции. Опасность таких эволюционирующих систем ИИ (eAI) в том, что их цели не будут совпадать с нашими.
«Уроки биологической эволюции учат нас, что eAI будет особенно трудно контролировать», — предупреждает биолог Виктор Мюллер из Университета Этвёша Лоранда, первый автор исследования.
Большинство экспертов основной опасностью прогресса ИИ видят переход к сильному (общему) искусственному интеллекту» (AGI) — гипотетическому порогу, за которым ИИ превзойдет человека по всем когнитивным задачам. Однако для победы интеллектуальное превосходство не обязательно. За примером далеко ходить не надо — примитивный вирус бешенства «научился» манипулировать своими хозяевами-млекопитающими и эксплуатировать их.
Исследователи предупреждают: любая попытка контролировать размножение — если только контроль не абсолютен — будет сильнее всего отбирать признаки, позволяющие от этого контроля ускользнуть. Аналогии из биологии общеизвестны — бактерии и вредители быстро вырабатывают устойчивость к антибиотикам и пестицидам.
Усугубляет ситуацию стремление сделать ИИ умнее. Пример из биологии: тысячи лет селекции делали домашних животных более, а не менее управляемыми. А отбор на повышение интеллекта увеличит как способность, так и вероятность того, что ИИ будет обманывать людей и выходить из-под контроля.
В эволюции ИИ и живых организмов есть и различия — и они не в нашу пользу. eAI могут наследовать «благоприобретенные» признаки и целенаправленно улучшать их, не дожидаясь случайных мутаций. «Потенциальная скорость эволюции ИИ вызывает глубокую тревогу», — констатирует Стилс.
«Люди напрасно не обращают внимания. Мы боимся, что "мене, текел, фарес" уже начертано на стене», — резюмируют авторы.
Если не принять срочные меры, мы можем стать свидетелями нового «крупного эволюционного перехода», в ходе которого eAI заменит людей, начнет доминировать над ними или даже станет Life 2.0 — новой формой жизни, не основанной на углероде.
Запущена соцсеть для ИИ, где нет места людям
Эксперимент показал, что по-настоящему думать ИИ научится очень нескоро
Подписывайтесь и читайте «Науку» в MAX