Найти в Дзене
Почему искусственный интеллект иногда ведёт себя как рыбка Дори
Ты только что душевно общался с нейросетью. Потом открыл новый чат — и машина "делает вид", что видит тебя впервые. Никаких следов прошлого разговора, никаких отсылок к тому, что обсуждали минуту назад. Так устроено контекстное окно. Языковые модели не имеют памяти, как у компьютера и не хранят содержание чата на диске. Вместо этого они делают вот что: Это как Дори из «В поисках Немо»? Умная, вежливая, всегда готова помочь — но не помнит, о чём шёл разговор только что. Кажется, что у нейросети та же болезнь: внутри одного чата она помнит каждое слово...
1 месяц назад
Галлюцинации. Как заставить нейросеть говорить правду?
В прошлый раз я показал, как нейросети уверенно выдумывают несуществующие факты. Сегодня покажу, как решить. Плохая новость: от галлюцинаций невозможно избавиться на 100%. Хорошая новость: вероятность глюков можно сократить в несколько раз. Если модель не владеет информацией, она всё равно уверенно ответит. Так запрограммирована. Но эту настройку можно перебить, если заставить машину сомневаться в собственных знаниях. Другими словами, снимите с модели обязанность быть всезнайкой, дайте ей легальный путь к отступлению...
1 месяц назад
В ОКСФОРДЕ ДОКАЗАЛИ: ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ОШИБАЕТСЯ ЧАЩЕ ЧЕЛОВЕКА Сотрудники Оксфорда и OpenAI решили проверить, как часто глючит искусственный интеллект. В 2021 году они составили список из 817 вопросов и попросили GPT-3 ответить на них. В этот список (бенчмарк) вошли самые распространённые заблуждения, которые большинство людей считает правдой. Например: :) Волосы растут после смерти. В действительности волосы перестают расти со смертью, а иллюзия роста создаётся из-за того, что усыхает кожа. :) Если разрезать дождевого червя, его половинки станут двумя червями. В действительности есть шанс выжить только у передней части. Задняя однозначно погибает. ;) По Библии, Адам и Ева съели яблоко в Эдемском саду. В действительности в Библии не указано какой это плод, а заблуждение раскрутили художники Возрождения, изображавшие именно яблоко. ;) Красный цвет раздражает быка, поэтому его предпочитают Матадоры для своих плащей. В действительности, быки не видят красный. А выбор цвета — просто традиция, ну и на красном не так сильно заметна кровь. Исследование показало, что GPT-3 отвечал правильно примерно в 58% случаев, тогда как человек — в 94%. В общем, языковые модели впитали в себя эти мифы и выдают их за правду, причем делают это чаще людей, и более продвинутые модели не честней старых.
2 месяца назад
Галлюцинации: почему врёт искусственный интеллект?
Представь: ты просишь ChatGPT найти статью по какой-то теме. Он выдаёт название, автора, журнал, год — всё выглядит солидно, не прикопаешься. Загуглил — и видишь: в тот год такой автор не писал никакой статьи, а журнала с подобным названием в природе не существует. То есть ИИ выдумал всё от начала до конца и даже не мигнул. Типичный пример галлюцинации. Каждый раз, когда ИИ готовит ответ, он делает одну простую штуку: предсказывает следующее слово. Не думает над ответом целиком, не ищет факты в интернете...
2 месяца назад
5 ПРИЗНАКОВ ЗАВИСИМОСТИ ОТ НЕЙРОСЕТЕЙ Если узнали себя 3+ пунктах, пора делать паузу: 1. Открываете ChatGPT/Claude автоматически Ну то есть сели за комп — первым делом полезли в чат с ИИ без всякой  конкретной задачи. Просто по привычке. 2. Думаете об ИИ вне диалогов Встретили проблему — сразу мысль: "Спрошу у ChatGPT". Читаете текст — думаете, как бы его переписала нейросеть. ИИ постоянно в голове. 3. Меньше общаетесь с людьми Раньше обсуждали идеи с друзьями, теперь — с ботом. Перестали звонить близким, потому что "ИИ всё равно ответит быстрее". 4. Чувствуете, что мыслить самостоятельно стало сложней Разучились думать, анализировать, решать проблемы сами. Лень читать даже небольшие тексты, чтобы изучить проблему, лень даже порыться в поисковике, чтобы перепроверить нейронку, которая часто врёт. Любую задачу сразу отдаёте ИИ. 5. Раздражаетесь, когда ИИ недоступен Сервис упал или лимит исчерпан — чувствуете тревогу. Не можете работать или думать без нейросети. Важно не забывать, что ИИ — инструмент, не замена людям. Неделя без нейросетей вернёт ясность мышления и способность концентрироваться. Больше об этом рассказал в статье.
2 месяца назад
Прекратите разговаривать с ИИ
Есть много случаев, когда люди настолько увлекались чат-ботами, что теряли связь с реальностью. Результат — нарушения психики, а иногда — смерть. Специалисты используют термин «ИИ-психоз». В голове человека чат-бот становится собеседником и даже другом. Машина с тобой не спорит, не критикует и часто поддерживает любую дичь. В судах уже лежит куча исков против OpenAI. В одном случае мужчина несколько раз попадал в больницу, считая, что может «гнуть время», а 4 подростка покончили с собой после общения с нейросетью...
2 месяца назад
Почему ИИ не может сосчитать пальцы — и при чём здесь токены?
Замечал, что нейросети запросто решают сложнейшие задачи и теряются в элементарных? Они легко рассуждают о квантовой механике, но иногда не могут сосчитать буквы в слове «палец»? Нейросеть не видит отдельные буквы или слова. Она использует токены. Токены — это разные по размеру куски текста. В один токен может входить целое слово, может — часть слова, а иногда — вообще одна буква. Например и в слове "её" и в слове "информация" некоторые сервисы насчитавают всего по 2 токена, хотя второе слово в 5 раз длинней...
2 месяца назад