Наталия Поварова

Чтобы ИИ был по-настоящему безопасен, ему нужен набор неизменных ограничителей, которые он не станет переписывать, даже если у него будет такая техническая возможность. Авторы нашей сегодняшней статьи предлагают смотреть на такие ограничители через призму обоснованного доверия. Их идеи восходят к работам более давним, близким к теории игр, однако они пока сырые и неоформленные. Посмотрим на них поближе и подумаем, каковы перспективы такого подхода. Мы хотим (и вы тоже), чтобы ИИ-агенты были безопасны для человека...

Вернёмся к теме дезинформации в Интернете, потому что не всё про неё сказано. Ещё есть как минимум одна статья, которую вам надо увидеть – «Cognitive attraction and online misinformation» («Когнитивная привлекательность и ложная информация в сети»). Особенность конкретно этой работы в том, что она подходит к изучению феномена дезинформации с точки зрения эволюции культуры и когнитивной антропологии. Распространение слухов – это часть нашей культурной жизни, и автор предположил, что слухи так устойчивы и так успешно распространяются, потому что эффективно задействуют какие-то механизмы нашего познания...

У вас как отношения с математикой? У меня сложные: люблю её, но не взаимно. Приходится немало тратить сил на разбор теорем и перепроверку собственных экспериментов. Но, может, ИИ сможет нам помочь? Изображение сгенерировано с использованием Google Nano Banana Pro В этом посте две части: первая – краткая выжимка без подробностей, вторая – глубокое погружение с блекджеком и теорией узлов. Можно читать их по отдельности, а можно выбрать только одну на своё усмотрение. Часть 1. Краткая выжимка Шум был в 2021 году, но тема всё равно актуальная: ИИ помог учёным сделать математическое открытие...

Так, мы что, обсуждаем тут ИИ, но так и не поговорили, как и почему в Интернете распространяется ложная информация? Вот это промах, конечно. Ладно, сейчас поправим. На русском языке очень доступно и остроумно про слухи, сплетни, анекдоты и прочие побочки жизни в обществе рассказывает и пишет социальный антрополог Александра Архипова*. Поэтому начну со статьи 2023 года «Фейк или правда? Как люди распространяют и проверяют слухи онлайн» её и её коллег, а потом посмотрим ещё несколько интересных исследований и подумаем, что нам теперь со всем этим делать...