ИИ показал 90% точности. Почему это ещё не диагноз Число на экране описывает работу модели в определённых условиях, но медицинское решение возникает только после проверки специалистом. Алгоритм отметил участок на снимке и вывел уверенные 90%. Такая цифра легко превращается в мысленный диагноз: почти наверняка болезнь — или почти наверняка всё в порядке. Но медицинская модель отвечает на гораздо более узкий вопрос. Она распознаёт заданный признак в данных, а смысл результата зависит от того, кого обследуют, какой порог выбран и что случится при ошибке...
ZeroNoise
Почему ошибка ИИ звучит убедительно: беглость не равна фактам
ИИ называет автора исследования, приводит точную дату и добавляет ссылку. Формулировка гладкая, детали согласованы, сомнений в голосе нет. Пользователь открывает ссылку — страницы не существует. Автор настоящий, но такой работы у него не было, а дата лишь правдоподобно вписалась в рассказ. Ошибка выглядит не как сбой, а как готовая справка. NIST называет это конфабуляцией: уверенно изложенным ошибочным или ложным содержанием, которое способно ввести человека в заблуждение. Слово «галлюцинация» стало привычнее, но важно не название...
Одинаковый USB-C может заряжать, передавать видео или работать на скорости USB 2.0
Два кабеля лежат рядом и заканчиваются одинаковыми овальными штекерами. Один быстро заряжает ноутбук и выводит изображение на монитор. Второй заряжает телефон, но копирует большой файл со скоростью старого USB 2.0. Третий вообще рассчитан прежде всего на питание. Внешне разницу часто невозможно увидеть без маркировки или документации. Причина проста: USB-C — это прежде всего физическая форма разъёма и правила соединения. Внутри этой формы могут работать разные поколения USB, Power Delivery и режимы передачи видео...
ИИ-переводчик не угадывает слова по одному. Но смысл он не гарантирует
Короткая фраза «The service is free» кажется простой, пока не выясняется, что free может означать и «бесплатный», и «свободный». В инструкции слово charge бывает зарядом, платой или обвинением. Человек ищет подсказки в теме, соседних предложениях и цели документа. Машинный перевод делает примерно то же на уровне статистических закономерностей: выбирает продолжение, наиболее подходящее к доступному контексту. Это не случайное угадывание слов по одному. Современные нейросетевые и языковые модели обрабатывают фразу целиком и способны учитывать окружающий текст...
ИИ пишет код быстрее, чем команда успевает проверить его безопасность
ИИ-помощник за минуту создаёт обработчик загрузки файлов, тестовый сценарий проходит, интерфейс отвечает как задумано. Вопрос безопасности появляется позже: кто проверил, что пользователь имеет право обращаться именно к этому файлу, имя не меняет путь сохранения, а журнал не записывает лишние данные? Рабочий код и безопасный код — пересекающиеся, но не одинаковые множества. Производители инструментов прямо предупреждают: сгенерированное предложение может содержать уязвимость и требует ревью и тестирования...
Сброс рекламного ID не обнуляет слежку. Он разрывает только одну связь
В настройках Android можно сбросить рекламный идентификатор или удалить его. Кнопка выглядит почти как маленькая цифровая амнистия: старый номер исчез, значит рекламная история начнётся с чистого листа. Отчасти это правда — но только для одного конкретного механизма связи. Рекламный ID не является паспортом телефона и не хранит внутри список посещённых сайтов. Это отдельная метка, которую приложения и рекламные сервисы могут использовать для показа, измерения и ограничения повторов рекламы. Смена...
