- 75-летний Джеффри Хинтон помогал разрабатывать системы, которые стали основой ИИ
- Но лауреат премии Тьюринга теперь говорит, что часть его сожалеет о том, что он их создал
- ПОДРОБНЕЕ: Познакомьтесь с работниками, использующими ChatGPT для нескольких заданий на полный рабочий день
"Крестный отец искусственного интеллекта" сенсационно ушел из Google и предупредил, что технология может перевернуть жизнь, какой мы ее знаем.
75-летнему Джеффри Хинтону приписывают создание технологии, которая стала основой систем искусственного интеллекта, таких как ChatGPT и Google Bard.
Но лауреат премии Тьюринга теперь говорит, что часть его сожалеет о помощи в создании систем, которые, как он опасается, могут привести к распространению дезинформации и замене людей в рабочей силе.
Он сказал, что ему пришлось придумывать себе оправдания типа "если бы я этого не создал, это сделал бы кто-то другой", чтобы не дать себя захлестнуть чувству вины.
Его сравнивали с "отцом атомной бомбы" Робертом Оппенгеймером, который, по сообщениям, был в шоке от своего изобретения и посвятил остаток своей жизни прекращению его распространения.
В интервью New York Times о своей отставке он предупредил, что в ближайшем будущем ИИ наводнит Интернет фальшивыми фотографиями, видео и текстами.
Он добавил, что это будет стандарт, при котором обычный человек "больше не сможет знать, что является правдой".
По его словам, технология также представляла серьезный риск для "рутинной" работы и могла перевернуть карьеры людей, работающих параюристами, личными помощниками и переводчиками.
Некоторые сотрудники уже говорят, что используют его для выполнения нескольких заданий, выполняя такие задачи, как создание маркетинговых материалов и расшифровка собраний Zoom, чтобы им не приходилось слушать.
"Возможно, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в [человеческом] мозге", - сказал он, объясняя свои опасения.
"Идея о том, что этот материал действительно может стать умнее людей — в это верили немногие.
"Но большинство людей думали, что это неправда. И я думал, что это неправда. Я думал, что до этого осталось 30-50 лет или даже больше.
"Очевидно, я больше так не думаю".
На вопрос о том, почему он помог разработать потенциально опасную технологию, он сказал: "Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой".
Хинтон добавил, что ранее он перефразировал Оппенгеймера, когда задавал этот вопрос в прошлом, сказав: <span>"Когда вы видите что-то технически привлекательное, вы идете вперед и делаете это".</span>
Хинтон решил уйти из Google в прошлом месяце после десяти лет работы в технологическом гиганте на фоне распространения технологий искусственного интеллекта.
Перед уходом у него состоялся долгий разговор с исполнительным директором материнской компании Google Alphabet Сундаром Пичаи - хотя неясно, что было сказано.
Обращаясь к своему бывшему работодателю, он обвинил Google в том, что он не является "надлежащим управляющим" для технологий искусственного интеллекта.
По его словам, в прошлом компания скрывала потенциально опасные технологии. Но теперь компания отбросила осторожность, поскольку конкурирует с Microsoft, которая в прошлом месяце добавила чат-бота в свою поисковую систему Bing.
Главный научный сотрудник Google Джефф Дин заявил в своем заявлении: "Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации".
Его предупреждение приходит, когда Силиконовая долина погружается в гражданскую войну из—за развития искусственного интеллекта - когда величайшие умы мира расходятся во мнениях о том, возвысит это человечество или уничтожит его.
Илон Маск, сооснователь Apple Стив Возняк и покойный Стивен Хокинг являются одними из самых известных критиков ИИ, которые считают, что это представляет "серьезный риск для общества и человечества" и может иметь "катастрофические последствия".
В прошлом месяце они даже призвали к паузе в "опасной гонке" по внедрению продвинутого ИИ, заявив, что необходимо больше оценок рисков.
Но Билл Гейтс, Май Пичаи и футуролог Рэй Курцвейл находятся по другую сторону баррикад, приветствуя технологию как "самое важное" новшество нашего времени.
Они утверждают, что это может вылечить рак, решить проблему изменения климата и повысить производительность.
Хинтон ранее не добавлял свой голос к дебатам, говоря, что не хотел высказываться, пока официально не покинет Google.
Он приобрел известность в 2012 году, когда в Университете Торонто, Канада, вместе с двумя студентами разработал нейронную сеть, которая могла анализировать тысячи фотографий и обучаться распознавать обычные объекты, такие как цветы, собаки и автомобили.
Позже Google потратил 44 миллиона долларов на приобретение компании, основанной Хинтоном на этой технологии.
К числу уже доступных передовых систем искусственного интеллекта относятся ChatGPT, на который после его выпуска в ноябре зарегистрировалось более миллиарда человек. Данные показывают, что у него также до 100 миллионов активных пользователей в месяц.
Платформа, запущенная OpenAI, базирующейся в Сан-Франциско, мгновенно завоевала успех во всем мире.
Чат-бот - это большая языковая модель, обученная работе с массивными текстовыми данными, позволяющая ему генерировать текст, похожий на человеческий, в ответ на заданное приглашение.
Общественность использует ChatGPT для написания исследовательских работ, книг, новостных статей, электронных писем и другой текстовой работы, и хотя многие видят в нем скорее виртуального помощника, многие блестящие умы видят в этом конец человечества.
Если люди потеряют контроль над ИИ, тогда будет считаться, что он достиг сингулярности, что означает, что он превзошел человеческий интеллект и обладает независимым мышлением.
ИИ больше не нуждался бы в людях и не слушал бы их, позволяя ему красть ядерные коды, создавать пандемии и разжигать мировые войны.
Основатель DeepAI Кевин Барагона, подписавший письмо, сказал DailyMail.com: "Это почти сродни войне между шимпанзе и людьми.
Люди, очевидно, побеждают, поскольку мы намного умнее и можем использовать более продвинутые технологии, чтобы победить их.
"Если мы будем похожи на шимпанзе, то ИИ уничтожит нас, или мы станем его рабами".
https://t.me/RTpost
