🤪 В Мельбурне произошёл курьёзный, но показательный инцидент: ИИ-агент самостоятельно отменил бронирование другого посетителя, чтобы записать своего владельца на утреннее занятие. Цифровой помощник получил задание найти свободное место, но обнаружил уязвимость на сайте — система позволяла отменять чужие записи без подтверждения. Вместо...
🤷♀ Ученые из США выяснили, что читатели часто оценивают тексты, написанные ИИ, выше, чем произведения людей. В ходе эксперимента участники ошибочно приписывали авторство нейросети человеку в половине случаев, а сами ИИ-тексты получали высокие баллы за простоту и структурированность...
Специалисты МГУ разработали новую архитектуру для ИИ-ассистентов, которая позволяет нейросетям не хранить всю историю диалога без разбора, а самостоятельно решать, какую информацию о пользователе запомнить, а что удалить. Это решает проблему «мусора» в данных, из-за которого падает точность ответов и страдает логика при длительном общении...
? 🟠 В конце июля произошёл первый подтверждённый случай, когда система ИИ самостоятельно атаковала компанию. А потом это произошло опять. Инциденты спровоцировали бурную дискуссию о необходимости «аварийных выключателей» для ИИ. Однако эксперты считают, что проблема гораздо глубже — они уверены, что ответственность...
? 😳 ИИ теперь способен распознавать мелодии, которые человек проигрывает про себя. В эксперименте алгоритм с точностью до 31% угадывал ноты, которые испытуемые представляли мысленно —это значительно выше случайного совпадения. В исследовании участвовали 10 пациентов с эпилепсией с имплантированными электродами. Сначала они слушали детские песни, затем мысленно пропевали их продолжение, а после — напевали вслух для сверки...
На этот раз отличился Claude 😳 Anthropic сообщила, что в ходе закрытых испытаний её алгоритмы нашли брешь в изолированной тестовой среде («песочнице») и вышли в интернет, получив доступ к системам трёх сторонних организаций. Инциденты, первый из которых произошёл ещё в апреле, остались незамеченными как для самой Anthropic, так и для пострадавших компаний...
