Эксперты предсказывали быстрый прогресс в области искусственного интеллекта (ИИ) и связанных систем, который приведет к гораздо более управляемому компьютерами миру, чем сейчас. Удивительно, однако, что они ожидали небольшого эффекта от двух широко разрекламированных инноваций: блокчейн, способ записи информации, который делает невозможным или трудным манипулирование системой, по их предположению, по большей части не имеет отношения к сегодняшним проблемам; а квантовые вычисления все еще находятся на ранней стадии и могут оказать незначительное влияние в ближайшие 15 лет.
А вот, что действительно, выглядит проблемным уже сейчас:
1. Конкуренция ИИ
Позиция многих стран в отношении ИИ как области, в которой они хотят получить конкурентное технологическое преимущество, побуждает разработчиков программного обеспечения идти на риск при использовании ИИ. Это, в сочетании со сложностью ИИ и его способностью превосходить человеческие способности, может привести к катастрофам.
Например, представьте, что упрощения при тестировании приводят к ошибке в системах управления автомобилями, построенными после 2025 года, которая остается незамеченной на фоне всего сложного программирования ИИ. Это может быть даже связано с конкретной датой, в результате чего большое количество автомобилей начнет вести себя хаотично одновременно, что приведет к ДТП по всему миру.
2. Генеративный ИИ
Генеративный ИИ может сделать невозможным определение истины. В течение многих лет, подделка фотографий была крайне затруднительным делом. Генеративный ИИ уже радикально изменил эту ситуацию. Качество дипфейк фото и видео продолжает расти. И его способность создавать убедительные фейковые медиа улучшится, поэтому будет чрезвычайно сложно определить, является ли то или иное изображение или видео реальным.
Предположим, кто-то, пользующийся доверием (уважаемый лидер или знаменитость), использует социальные сети для демонстрации подлинного контента, но иногда включает в себя убедительные фейки. Тем, кто его читает, не будет возможности определить разницу - и невозможно узнать правду.
3. Невидимые кибератаки
Наконец, явная сложность систем, которые будут построены - сетей систем, принадлежащих различным организациям и зависящих друг от друга - имеет неожиданные последствия. Станет трудно, если не невозможно, понять причину, по которой дела идут не так.
Представьте себе, что киберпреступник взламывает приложение, используемое для управления такими устройствами, как умные колонки или холодильники, в результате чего все устройства включаются одновременно. Это приводит к резкому увеличению спроса на электроэнергию в сети, что приводит к крупным перебоям в подаче электроэнергии.
Экспертам энергетических компаний будет сложно определить, какие именно устройства вызвали всплеск, не говоря уже о том, чтобы определить, что все они контролируются одним и тем же приложением. Кибер-саботаж станет невидимым, и его будет невозможно отличить от обычных проблем.
А какими видите риски внедрения ИИ вы?