Часть Джеффри Хинтона сожалеет о деле своей жизни.
Джеффри Хинтон, "крестный отец искусственного интеллекта", уволился из Google после стремительного роста ChatGPT и других чат-ботов, чтобы "свободно высказываться о рисках искусственного интеллекта", - сказал он New York Times.
Хинтон, который помог заложить основу для современного генеративного искусственного интеллекта, более десяти лет проработал инженером в Google. Согласно "Таймс", часть его сожалеет о работе своей жизни после того, как он увидел опасность, которую представляет генеративный ИИ. Он беспокоится о дезинформации; о том, что обычный человек "больше не сможет знать, что является правдой". Он опасается, что в ближайшем будущем способность искусственного интеллекта автоматизировать задачи заменит не только тяжелую работу, но и перевернет весь рынок труда.
Раньше Хинтон думал, что до революции в области искусственного интеллекта еще несколько десятилетий. Но с тех пор, как OpenAI запустил ChatGPT в ноябре 2022 года, интеллект большой языковой модели (LLM), он изменил свое мнение. "Посмотрите, как это было пять лет назад и как сейчас", - сказал он. "Это пугает."
Дебют ChatGPT положил начало своего рода трехстороннему соревнованию с Microsoft Bing и Google Bard. Однобоко, потому что GPT-4, который поддерживает ChatGPT, также поддерживает Bing. С появлением двух претендентов на основной поисковый бизнес Google решила запустить Bard, несмотря на внутренние опасения по поводу того, что он недостаточно прошел стресс-тестирование на точность и безопасность.
Хинтон пояснил в Twitter после публикации статьи The Times, что он не критиковал Google конкретно и считает, что компания "действовала очень ответственно". Вместо этого он обеспокоен более широкими рисками сверхскоростного развития искусственного интеллекта, обусловленными конкурентной средой. Без регулирования или прозрачности компании рискуют потерять контроль над мощной технологией. "Я не думаю, что им следует расширять это до тех пор, пока они не поймут, могут ли они это контролировать", - сказал Хинтон.
Это еще один эксперт, призывающий разработчиков искусственного интеллекта нажать кнопку "пауза".
