Джеффри Хинтон — не просто эксперт по искусственному интеллекту. Еще в 1986 году в новаторской работе он заложил основы нейронных сетей — моделей, на которых сегодня основан современный ИИ. В 2018 году «Крестный отец ИИ» получил премию Тьюринга в знак признания своей революционной работы.
Между тем Хинтон крайне критически относится к технологии ИИ. Об этом специалист рассказал в интервью агентству Reuters. Он считает, что исходящая от ИИ опасность для человечества больше, чем угроза, исходящая от изменения климата: ИИ может стать умнее людей и взять под контроль инфраструктуру планеты.
По его словам, когда дело доходит до изменения климата, человечество, по крайней мере теоретически, знает, как его остановить. С ИИ все вообще непонятно.
Изображение из открытых источниковХинтон уволился с работы в Google специально для того, чтобы предупредить об опасностях ИИ, не выказывая претензий к своему работодателю. Однако он не из тех, кто призывает к добровольному перерыву в развитии ИИ.
В мае прошлого года тысячи людей, в том числе многие разработчики ИИ, подписали открытое письмо с призывом приостановить на шесть месяцев все усилия по созданию более мощного ИИ, чем ChatGPT-4. Хинтон говорит, что это «не особенно реалистично».
«Технические лидеры лучше всех разбираются в проблеме, и политики должны вмешаться», — говорит Хинтон.
На самом деле, комиссия ЕС и президент США Байден находятся в процессе переговоров с экспертами по ИИ и разработки нового законодательства.
Однако меры часто ограничиваются вопросами авторского права и обязательством операторов ИИ раскрывать исходный материал, которым они снабжают свои программы. Более строгие правила в этой области могли бы обеспечить большую прозрачность и, следовательно, также контроль, что вообще сделало бы возможным юридическое вмешательство.
Однако для того, чтобы предотвратить опасность, которую представляет технология ИИ, безусловно, потребуется принятие нового законодательства.
