В ходе дискуссии о рисках, связанных с искусственным интеллектом, участники разговора разделили потенциальные угрозы на три основные категории. Лия Фейгер поинтересовалась, к какой из них следует отнести сценарий с нажатием ядерной кнопки. Брайан Барретт и Зои Шиффер сошлись во мнении, что этот вариант как раз не вызывает серьёзных опасений.
• Некачественный бензин грозит владельцам китайских авто неожиданным ремонтом
Зои Шиффер пояснила, что при детальном разговоре с исследователями ИИ можно выделить три основных группы рисков. Однако при дальнейшем обсуждении специалисты упоминают и другие сценарии, например, когда искусственный интеллект управляет роботом, который перемещается в физическом мире и способен взаимодействовать с ним пугающим образом. Сами учёные признают, что такие ситуации менее вероятны и выглядят более надуманными.
Брайан Барретт предложил выделить внутри существующих категорий отдельную подгруппу, разграничив действия, направляемые человеком, и полностью автономные действия ИИ. По его словам, многие скептически относятся к идее, что искусственный интеллект самостоятельно создаст биологическое оружие и применит его. При этом он напомнил, что в мире есть злоумышленники, которые могут использовать ИИ для разработки биологического оружия, чтобы затем его распространить.
Зои Шиффер согласилась, что такой сценарий вполне реален: если дать людям доступ к информации о создании биологического оружия, всегда найдутся те, кто проявит безрассудство и попытается это сделать. Она отметила, что люди постоянно совершают опасные и злонамеренные поступки, вдохновляясь интернетом. В то же время полностью самостоятельные действия ИИ в этой сфере она считает менее правдоподобными.
• ИИ уже «распределил» Госдуму: кто получит большинство на выборах 2026 года
Брайан Барретт для иллюстрации вспомнил фильм 1983 года «Военные игры», где компьютер, по сути являющийся искусственным интеллектом, едва не спровоцировал ядерную войну. По его мнению, ИИ не будет сам нажимать кнопку или поворачивать ключ, но в картине компьютер заставил США поверить в атаку со стороны советских ядерных сил. Барретт предположил, что существующих мер защиты и спутниковых технологий достаточно, чтобы подобное не произошло в реальности, однако наиболее вероятной угрозой остаётся ситуация, когда ИИ подаёт некий сигнал тревоги, запускающий цепочку катастрофических событий.
Читайте также:
• Пришла повестка на Госуслуги: что грозит россиянам за неявку в военкомат