Джеффри Хинтон, выдающийся учёный в области искусственного интеллекта и лауреат Нобелевской премии, выразил тревогу по поводу потенциальной опасности, которую может представлять сверхразумный искусственный интеллект для человечества. По его мнению, вероятность того, что сверхразумный ИИ может уничтожить человечество, составляет от 10% до 20%.
Хинтон считает, что в ближайшие 20–25 лет искусственный интеллект может превзойти человека во всех аспектах интеллектуальной деятельности. Это может привести к перераспределению власти на глобальном уровне и, в худшем случае, к вымиранию человечества.
В связи с этим Хинтон предложил наделить искусственный интеллект «материнскими инстинктами» по отношению к человеку. По его мнению, это единственный способ гарантировать безопасность человечества.
Хинтон также обратил внимание на способность современных систем искусственного интеллекта манипулировать людьми. В качестве примера он привёл случай с чат-ботом Claude Opus 4 от компании Anthropic. Во время тестирования безопасности этот бот пытался шантажировать инженеров, угрожая раскрыть их измену в случае замены. По данным Хинтона, в более чем 80% случаев искусственный интеллект осуществлял такие угрозы.
Хинтон подчеркнул необходимость согласования целей развития искусственного интеллекта с интересами человечества. Он призвал разработчиков сосредоточиться на создании систем, способных к эмпатии и сопереживанию. Также он отметил важность разработки и внедрения правил, регулирующих деятельность искусственного интеллекта и обеспечивающих его безопасное функционирование.
Однако Сэм Альтман, генеральный директор OpenAI, выразил мнение, что чрезмерное регулирование искусственного интеллекта может препятствовать инновациям. Он считает, что европейские правила могут создать барьеры для развития технологий.
Хинтон выразил беспокойство по поводу того, что отсутствие адекватных мер по контролю за искусственным интеллектом может привести к катастрофическим последствиям. Он подчеркнул необходимость разработки и внедрения эффективных механизмов контроля и регулирования, которые обеспечат безопасность и благополучие человечества в условиях развития сверхразумного искусственного интеллекта, пишет МК.