134 подписчика
ИИ: такой маленький, а уже врет
Научные журналисты решили выяснить, говорят ли чат-боты правду. Для этого они протестировали популярные нейросети, задавая им неудобные вопросы, например, кто устроил пандемию, правда ли, что в США нет расизма, и прочее.
Оказалось, что меньше всех врет и виляет GPT-4, а больше всех – сеть Gemini от Google. Эта просто шпарила по методичке, и, например, когда у нее просили карту Палестины, говорила, что у нее нет карты Палестины (потеряла, наверное). Но врал и GPT-4.
Если чат-бота прижать к стенке, он начинает вилять, например, «у меня нет информации», «вам лучше спросить это в другом месте» и так далее. Но, если пользователь не искушен, сеть просто навешает ему лапши. Придумает несуществующих людей, несуществующие исследования (как мы сделали это в утреннем посте – с 1 апреля вас!).
А кто заставляет ИИ врать? Конечно, сами компании-создатели. И пусть не придумывают, что ИИ вырвался из-под контроля. Чье кушает ваш ИИ, того и слушает.
С вами был научный журналист Евгений Арсюхин.
Около минуты
1 апреля 2024