Описана возможность манипулировать ИИ
Специалисты Нью-Йоркского университета описали опасность обучения ИИ на непроверенных данных в исследовании, опубликованном в журнале Nature. Ученые выяснили, что большие языковые модели (LLM) начинают ошибаться при наличии дезинформации в обучающих материалах всего 0,001%. Они обучили две LLM на медицинской базе данных The Pile, исследуя влияние дезинформации на три области медицины: общая медицина, нейрохирургия и лекарства. Результаты показали, что с 0,01% дезинформации LLM ошибалась в 10% ответов, а с 0,001% — в 7%. Ученые подчеркнули важность проверки данных, используемых для обучения моделей, так как пользователи часто не проверяют информацию, полученную от чат-ботов. В начале января Bloomberg Intelligence сообщила о прогнозах сокращения до 200 тысяч сотрудников крупнейших банков в течение ближайших трех-пяти лет из-за распространения ИИ, с возможным сокращением 5-10% персонала.
Около минуты
11 января 2025