Ученые говорят о необходимости существенного обновления моделей климата. Охота на виновников пандемии продолжается. ИИ не можем перепрыгнуть пропасть аналогий. Грибные сети реализуют модель конкурентного рынка. Microsoft купила еще один стартап в области безопасности.
🌩️ Пересборка климатической модели
🌪️ BBC рассказывает, со слов ученых, что существующие компьютерные модели не позволяют предсказывать погодные кризисы вроде наводнения в Германии или нетипичной жары в Северной Америки. Для моделирования нужны новые модели и более мощные вычислительные системы. "Нам нужен международный центр, который позволит сделать квантовый прорыв в климатических моделях, учитывающий фундаментальную физику, лежащую в основе решения экстремальных кейсов."
🌳 NPR рассказывает о свежем исследовании лесов Амазонии, из которых следует, что баланс нарушился: леса уже выделяют больше диоксида углерода, чем могут поглотить. К классическим причинам вроде пожара и вырубки добавляется повышение температуры само по себе и стресс от повышенной влажности в дождливый сезон.
🌞 IEEE Spectrum публикует статью инженеров Google, которые пересмотрели свою модель семилетней давности и говорят, что все очень плохо, но чуть лучше, чем они думали тогда. Резюме: технологии развиваются быстрее, но за 20 лет нам предстоит массово перейти от снижения выбросов к поглощению, сделав экономику углеродо-отрицательной и, соответственно, пересмотреть под это все политико-экономические модели. Статью рекомендую осилить целиком. И поиграться с моделью, чтобы понять, насколько все плохо.
🌊 ArsTechnica рассказывает о моделировании последствий возведения стен против повышения уровня океана. Исследователи из Массачусетского университета задали очень “простой” вопрос, если защититься от повышения уровня моря смогут не все, то каковы будут последствия от того, что в одном месте побережья возвели стены, а в другом нет. Ключевой вывод: вода должна куда-то деться (что-то затопить), поэтому размещение стен должно быть стретегическим решением с учетом направления потоков, а не просто “частными” инициативами для защиты одного поселения.
🦠 Охота на био-ведьм
Если верить интернету и СМИ (а кому же еще доверять в наше время? шутка), то складывается примерно такая картинка:
— Китай. Руководители ВОЗ просят тщательнее расследовать происхождение вируса в Китая. Под прицелом исследования две главные гипотезы: 1) что вирус перепрыгнул с неизвестного нам животного на человека, 2) что вирус сначала заразил кого-то в лаборатории или при полевых исследованиях коронавирусов. Ничего нового, но как бы давление нагнетается.
— Facebook. Байден обвиняет Facebook и другие платформы в распространении ложной информации о COVID-19, которая "убивает людей". "Что бы вы сказали платформам вроде Facebook?" — "Единственная пандемия, которая у нас есть, — это среди невакцинированных, и они убивают людей". (Потом, конечно, пояснил, что его не так поняли, ну да…) И если уж главный военный хирург США все понял: "Они сделали продукт с лайк-кнопками, который поощряет эмоционально заряженный контент, а не более точный. ...а их алгоритмы настроены показывать больше того, на что мы кликнем, затягивая нас глубже и глубже в колодец мисинформации", — то замес явно не в пользу Марка.
— Лжеученые. Продолжаются исследования реального влияния препаратов, которые в течение пандемии те или иные врачи, фарм-компании, функционеры или диванные ковид-эксперты рекомендовали для противовирусной терапии в пандемии, и самое главное — наличие оснований для таких утверждений. На этот раз удар пришелся по ивермектину, о котором рассказывали в начале года даже российские СМИ, со ссылкой на препринт египетских ученых, который недавно был отозван по этическим соображениям. Среди главных претензий: масштабный плагиат с элементами преувеличения и внутренними противоречиями между приводимыми данными.
Список непричастных, каждый сам составит для себя. :)
🤖 Эволюция ИИ
🧠 Мышление по аналогии
Одно из фундаментальных отличий нейронных сеточек от того, как "думает" мозг человека — неспособность самостоятельно провести аналогию. Quanta Magazine беседует с профессором сложности Melanie Mitchell из Santa Fe Institute по следам ее книги “Artificial Intelligence: A Guide for Thinking Humans” и свежего проекта об основах интеллекта в естественных и искусственных системах.
— Способность к аналогии -- фундаментальный механизм мышления, который необходим для сильного ИИ. До сих пор эта тема оставалась вне мейнстрима исследований и развития технологий. Была надежда, что обучение и дальнейший статистический вывод смогут сформировать возможности к обобщению и абстрагированию. Но как-то не очень это все сработало. Новая надежда - мета-обучение, при котором машина учиться учиться, но здесь снова прямая зависимость от скармливаемых данных. Но, к сожалению, пока ни одна из таких систем не способна справиться с ARC-датасетом, который ориентирован как на быстрый вывод по аналогии с использованием "базовых знаний о мире".
— Чтобы преодолеть "барьер понимания", нужно уметь абстрагировать и проводить аналогии. Одна из теорий заключается в том, что мы (люди) так хороши в таком роде интеллекта из-за нашей социальности. Мы эволюционировали, развивая способности лучше понимать других через аналогию к себе. Но это, кажется, одна из врожденных способностей, завязанных на наличие тела. Можно предположить, что мы не сможем добиться от ИИ человекоподобной аналогии без решения проблемы телесности.
💻 Ответственное проектирование ИИ
Исследователи Microsoft обобщили свои наработки по разработке ИИ-решений и выложили их в виде HAX Toolkit (Human-AI eXperience) — наборе руководств, карточек шаблонов проектирования и примеров, рабочей книги и других инструментов, рассчитанном на дизайнеров интерфейсов, AI-специалистов, руководителей проектов и в целом инженерные команды.
— Тулкит: https://www.microsoft.com/en-us/haxtoolkit/
👩💻 Подробности про Copilot от Microsoft и OpenAI
Помните, я писал про Copilot для разработчиков от Microsoft и OpenAI? Подоспели подробности о том, что там под капотом:
— Если в GPT-3 около 175 млрд. параметров и он требует 600гб датасета, то Codex можно рассматривать как специализированную версию с 12 млрд. параметров, натренерованную на 159гб датасете с примерами кода с GitHub.
— Фактически Codex, в отличие от обобщенного GPT-3, нацелен на решение одной задачи: превращении описаний и сигнатур функций в исходный код.
— Как и GPT-3, Codex может продолжать "бездумно" генерировать код (и именно это он делает!) и "за пределами" рассматриваемой функции, поэтому разработчики тупо останавливают алгоритм после появления в тексте одной из стоп-конструкций вроде "\nprint" или "\ndef".
— При увеличении числа компонентов в описании функции эффективность модели падает экспоненциально.
— Codex не понимает структуры программы и кода, в частности он может предлагать синтаксически некорректный или неопределенный код, делающий вызовы функций и переменных, не объявленных за пределами сгенерированного текста. При этом алгоритм учитывает в качестве контекста открытый файл и реплицировать уже имеющиеся в нем баги.
— Также исследователи отмечают, что Codex может производить устаревший и даже уязвимый код, что не удивительно, учитывая тренировочную базу.
🍄 Экономика грибов
К вопросу, почему я провожу параллели между технологическими и живыми экосистемами и почему микориза?
О том, что растения "обменивают" углерод на питательные вещества, которые грибы извлекают из почвы, известно давно. О том, что этот процесс носит "рыночный" характер, в котором разные стороны балансируют спрос и предложение, известно меньше, но известно, например, по работам 2019 года.
Свежее исследование Ted Loch-Temzelides, профессора экономики из Университета Райса (США) по ранее собранным биологами данным, дает этому процессу именно экономическую оценку, показывая, что этот симбиоз реализует конкретно модель конкурентного равновесия, хорошо известную экономистам.
В духе времени, работа предполагает, что это знание можно использовать для повышения схватывания углерода из воздуха и его запасения в почве через грибные сети, если только мы научимся манипулировать биологическими рынками. :)
🛡️+1
Microsoft купила стартап CloudKnox Security, специализируйщийся на управлении правами доступа в мультиоблачных архитектурах. Это уже четвертая покупка за год и, уверен, не последняя.
Снова подчеркну два момента:
— На фоне множества скандалов с отключением (почему-то чаще всего это Amazon, ну понятно, конечно почему) все больше компаний будет выбирать гибридный вариант архитектуры поверх множества облаков;
— По мере "цифровой трансформации" все больше компаний будет мигрировать со своими критичными задачами в облако — и это все более очевидное направление для атаки.
Поэтому защищаться надо 1) проактивно, 2) с учетом множества облаков, а не только своего. Ну и быть провайдером безопасности — это сильно денежная история в ближайшие десятилетия.
---
Кстати, основной поток новостей, о которых я пишу в Дзене, можно-также получать в оперативном режиме в Telegram-канале Quantum Quintum. А если вам удобнее получать новости в почте, есть почтовая рассылка.