Аналитик Пивоваров о развитии искусственного интеллекта: Нельзя продолжать эту бесконтрольную гонку в никуда

По прочтению письма Илона Маска и примкнувшим к нему, создается впечатление, что нынешняя ситуация вокруг искусственного интеллекта (ИИ) повторяет события прошлого века, когда при самом активном участии ученых в невероятной гонке было создано атомное оружие. И когда его возможности были продемонстрированы, ученые первыми стали думать, как оставить его в арсеналах, обеспечить неприменение. В итоге было создано МАГАТЭ, которое контролирует многие вопросы в атомной сфере, а между странами подписаны важнейшие документы, где они берут на себя обязательства по неприменению и нераспространению такого оружия.

Технологии искусственного интеллекта по своему влиянию на человечество в определенном смысле сравнимы с атомным оружием. Речь идет не о взрывах, а о негативных последствиях их неконтролируемого применения, и об условиях, в которых сегодня такие системы создаются.

Сегодня между несколькими крупнейшими компаниями фактически идет "гонка вооружений" в области ИИ. И сами разработчики не в полной мере представляют, как работают эти "черные ящики", но продолжают стремительно наращивать эти мускулы, открывая для ИИ все новые возможности в самых разных сферах. И в этой гонке нет времени на проверку безопасности систем, на оценку последствий их применения. Сейчас об этом мало думают, ведь главное - опередить конкурентов.

И этот призыв авторов письма в первую очередь не к политикам, а к коллегам. Нельзя продолжать эту сумасшедшую и бесконтрольную гонку в никуда. Давайте сделаем паузу, чтобы те блестящие умы, которые создают такие мощные интеллекты, остановились и договорились о новых правилах игры. Цель - сделать ИИ, который будет работать только на пользу, а не во вред человеку.