Способен ли искусственный интеллект в конечном итоге обречь человечество на гибель? В зависимости от того, с каким экспертом по кибербезопасности вы беседуете, шансы сильно различаются, но у одного специалиста определенно есть мрачное или скорее апокалиптическое мнение, которое не разделяет Илон Маск.
Издание Business Insider сообщило об откровениях, озвученных на недавнем саммите Abundance (прошедшем в прошлом месяце), где в ходе "больших дебатов об искусственном интеллекте" Маск оценил риск того, что искусственный интеллект положит конец существованию человечества, примерно в 10% или 20%. Очевидно, это что-то вроде экстрасенсорных догадок, но общая суть философии миллиардера заключается в том, что мы должны двигаться вперед в развитии с помощью искусственного интеллекта, поскольку вероятные положительные результаты перевешивают любой негативный сценарий.
По оценке Маска, не упоминается то, что негативный сценарий, которым мы рискуем, — это уничтожение всего человечества. Возможно, это сильно склоняет чашу весов против положительного влияния чат-ботов. Во всяком случае, теорию вероятности Маска определенно не разделяет Роман Ямпольский, директор Лаборатории кибербезопасности Университета Луисвилля, эксперт по безопасности ИИ и автор многочисленных книг на эту тему.
Илон Маск верит в светлое будущее человечества, где искусственный интеллект помогает людям, а не пытается нас уничтожить.
Ямпольский выразил мнение, что Маск консервативен и вероятность рокового исхода при которой ИИ положит конец человечеству, или поработит нас, или аналогичного немыслимого сценария — намного превышает 20%. Итак, какова же, по мнению российского ученого-эксперта, вероятность гибели? Что ж, вам вряд ли понравится узнать, что Ямпольский оценивает эту вероятность на 99,999999%. Что, конечно же, означает практически стопроцентную уверенность.
Российский эксперт по безопасности стремится достучаться до всех нас и поднять очень серьезные опасения по поводу развития ИИ, а не просто предсказать неминуемую гибель человечества. Но эти опасения, должны быть, чрезвычайно убедительными, раз он делает такую зловещую оценку. Основополагающая философия Ямпольского заключается в том, что поскольку достаточно продвинутый искусственный интеллект невозможно будет контролировать после его создания, лучшим выходом является принятие мер уже сейчас, чтобы не допустить появления подобного ИИ. Все, конечно, понимают, откуда взялась эта точка зрения.
В более оптимистическом докладе говорится, что, по словам ведущих технических специалистов Кремниевой долины, вероятность нашей погибели от искусственного интеллекта варьируется от 5% до 50%. Даже 50-процентный шанс апокалипсиса не может не вызывать беспокойства, будем честными. Если бы вам предложили таблетку и сказали, что у вас есть 50% шанс обрести сверхчеловеческие способности или 50% шанса мгновенно умереть, вы бы ее приняли? Мы думаем, что отказались бы, но есть и те, кто, возможно, согласился бы на такой риск.
