Наталия Поварова

Чтобы ИИ был по-настоящему безопасен, ему нужен набор неизменных ограничителей, которые он не станет переписывать, даже если у него будет такая техническая возможность. Авторы нашей сегодняшней статьи предлагают смотреть на такие ограничители через призму обоснованного доверия. Их идеи восходят к работам более давним, близким к теории игр, однако они пока сырые и неоформленные. Посмотрим на них поближе и подумаем, каковы перспективы такого подхода. Мы хотим (и вы тоже), чтобы ИИ-агенты были безопасны для человека...

Вернёмся к теме дезинформации в Интернете, потому что не всё про неё сказано. Ещё есть как минимум одна статья, которую вам надо увидеть – «Cognitive attraction and online misinformation» («Когнитивная привлекательность и ложная информация в сети»). Особенность конкретно этой работы в том, что она подходит к изучению феномена дезинформации с точки зрения эволюции культуры и когнитивной антропологии. Распространение слухов – это часть нашей культурной жизни, и автор предположил, что слухи так устойчивы и так успешно распространяются, потому что эффективно задействуют какие-то механизмы нашего познания...

У вас как отношения с математикой? У меня сложные: люблю её, но не взаимно. Приходится немало тратить сил на разбор теорем и перепроверку собственных экспериментов. Но, может, ИИ сможет нам помочь? Изображение сгенерировано с использованием Google Nano Banana Pro В этом посте две части: первая – краткая выжимка без подробностей, вторая – глубокое погружение с блекджеком и теорией узлов. Можно читать их по отдельности, а можно выбрать только одну на своё усмотрение. Часть 1. Краткая выжимка Шум был в 2021 году, но тема всё равно актуальная: ИИ помог учёным сделать математическое открытие...

Так, мы что, обсуждаем тут ИИ, но так и не поговорили, как и почему в Интернете распространяется ложная информация? Вот это промах, конечно. Ладно, сейчас поправим. На русском языке очень доступно и остроумно про слухи, сплетни, анекдоты и прочие побочки жизни в обществе рассказывает и пишет социальный антрополог Александра Архипова*. Поэтому начну со статьи 2023 года «Фейк или правда? Как люди распространяют и проверяют слухи онлайн» её и её коллег, а потом посмотрим ещё несколько интересных исследований и подумаем, что нам теперь со всем этим делать...

Больше всего этических вопросов связано с применением ИИ в образовании и медицине (и военной промышленности, но её сегодня трогать не будем). А что насчёт ИИ в медицинском образовании? Нашла как раз про это статью, свеженькую, прошлого года: «Artificial intelligence in medical education: Typologies and ethical approaches» («Искусственный интеллект в медицинском образовании: типология и этические подходы»). Пошли смотреть, что там. С типологией всё сложно. Единых определений нет, никаких общепринятых классификаций нет, ничего нет, воды нет, растительности нет, населена роботами...

Иногда я хулиганю и придумываю кликбейтные заголовки. Сегодня как раз такой день. Итак, про тест Тьюринга все слышали, а саму статью, в которой он предлагается, все читали? Если нет, давайте исправлять: мы здесь за то, чтобы читать первоисточники. Статья называется «Computing Machinery and Intelligence» («Вычислительные машины и интеллект»), она была опубликована в журнале Mind в 1950 году. И она отлично написана, на самом деле, без тучи технических подробностей, так что не бойтесь её изучить самостоятельно...

Сегодня делюсь с вами хорошей обзорной статьёй «LLMs Working in Harmony: A Survey on the Technological Aspects of Building Effective LLM-Based Multi Agent Systems» («Гармоничная работа больших языковых моделей: обзор технологических аспектов построения эффективных мультиагентных систем на основе больших языковых моделей»). Далее я буду говорить «модели» для краткости, а вы знайте, что речь идёт именно о больших языковых. Я писала подробный вводный пост про то, кто такие ИИ-агенты. Если коротко, это обычно модель с детально прописанной «должностной инструкцией» и доступом к одному или нескольким...

Сегодня у меня пост в формате эссе. Это значит, что я не пользуюсь дополнительными источниками, не привожу ссылки и все свои аргументы беру из памяти. Я вычитываю эссе после публикации, но только на предмет выявления грамматических или стилистических ошибок и не проверяю факты. Я не ограничиваю себя по времени, но стараюсь писать короче. Для меня это способ потренировать мозг: поработать им, не полагаясь на внешние источники. Для вас это значит, что здесь описано исключительно моё мнение, и не нужно принимать его за научный консенсус или истину в последней инстанции...

Стандартный алгоритм работы с языковыми моделями такой: сначала обучаем на очень большом наборе текстов, а потом адаптируем под новые задачи, используя небольшие наборы примеров. Эти небольшие наборы примеров работают действительно хорошо, но почему это так, мы ещё не обсуждали. Предлагаю исправить сие досадное недоразумение и совместно прочитать статью «Why Can GPT Learn In-Context? Language Models Implicitly Perform Gradient Descent as Meta-Optimizers» («Почему GPT может обучаться в контексте? Языковые модели скрыто используют градиентный спуск, выступая в качестве мета-оптимизаторов»). Я буду...

Это кликбейтный заголовок, простите. Обсуждать будем научную публикацию. Есть мечта у человечества – создать такой интеллект, который превзойдёт его собственный. Может, прям не всего человечества мечта, но многих энтузиастов. Я уже раньше писала про него у себя в телеграме: · Никто не знает, что такое «сильный» ИИ и каковы критерии его достижения; · Никто не знает, какими методами его достигать и возможно ли это вообще; · Есть работы, вдохновлённые биологией мозга; · Что имеем на сегодня. Теперь...

Накопала статью аж 2016 года, которая называется «Social Learning and Distributed Hypothesis Testing» («Социальное обучение и распределённое тестирование гипотез»). На первый взгляд, это что-то из социологии, но на деле работа существенно шире – и это очень интересно. Пошли разбираться. Если отдельно поискать, что такое «социальное обучение», попадаются работы про то, как люди учатся, глядя друг на друга. Если отдельно поискать, что такое «распределённое тестирование гипотез», попадаются работы про сети датчиков, которые собирают разные данные и обмениваются ими...