19,5 тыс подписчиков
Нейросети умеют лгать — не хуже людей!
«Крестный отец ИИ» Джеффри Хинтон покинул Google и предупредил о надвигающейся опасности искусственного интеллекта. Сильнее всего Хинтон переживает за дезинформацию, которую ИИ может распространять по всему миру.
Мировые СМИ уже приводили примеры, когда ChatGPT и другие нейросети искажают факты и даже выдают откровенную ложь и клевету. Известна история, когда ИИ сообщил, что профессор права домогался студентки во время учебной поездки на Аляску. Бот при этом сослался на статью в The Post за март 2018 года. Но такой статьи не существовало, да и учебной поездки на Аляску никогда не было.
Поэтому Хинтон предупреждает: «Возможно, вы больше не сможете знать, что является правдой». Новые мощные ИИ на современных языковых моделях выдают ответы, основываясь на различных источниках информации, однако могут сгенерировать ложь.
Отметим: Хинтон — человек "высокой науки". В 2012 году он создал с двумя аспирантами технологию, которая и легла в основу искусственного интеллекта. Так он и получил псевдоним «крестного отца ИИ».
Но не только он опасается искусственного интеллекта. Глава OpenAI Сэм Альтман тоже признал риски ChatGPT и назвал разработку “ужасающей”, беспокоясь, что она может попасть в плохие руки и использоваться с корыстными целями.
1 минута
3 мая 2023
428 читали