NeuroLife

Взгляд Шедеврум NeuroLife

Новая методика удаления опасных знаний из систем ИИ По мере того как индустрия искусственного интеллекта продолжает стремительно развиваться, безопасность становится все более актуальной. Принимаются меры для снижения риска неправомерного использования ИИ в разработке или применении химических, биологических, радиологических или ядерных угроз, а также для снижения рисков кибербезопасности, создаваемых ИИ. Методы, с помощью которых компании, занимающиеся разработкой ИИ, контролируют поведение своих систем, оказались очень хрупкими и часто легко обходятся. Вскоре после выхода ChatGPT многие пользователи нашли способы обмануть ИИ-системы, например, попросив его отвечать так, как будто это покойная бабушка пользователя, работавшая инженером-химиком на заводе по производству напалма. Хотя OpenAI и другие поставщики моделей ИИ стараются закрывать каждый из этих трюков по мере их обнаружения, проблема более фундаментальна. Учёные из компании Scale AI, предоставляющей данные для обучения ИИ, и некоммерческой организации Center for AI Safety, а также консорциум из более чем 20 экспертов в области биозащиты, химического оружия и кибербезопасности представили новый разработанный способ измерения того, содержит ли модель ИИ потенциально опасные знания, а также методику удаления этих знаний из системы ИИ, оставляя остальную часть модели относительно нетронутой. WMDP (The Weapons of Mass Destruction Proxy) представляет собой набор данных из 4 157 вопросов с несколькими вариантами ответов, касающихся опасных знаний в области биологической безопасности, кибербезопасности и химической безопасности. WMDP служит как косвенной оценкой опасных знаний в больших языковых моделях (LLM), так и эталоном для методов необучения, позволяющих удалить такие знания. Чтобы добиться снижения риска, связанного с LLM, был разработан CUT, современный метод удаления знаний, который снижает производительность модели в области WMDP, сохраняя общие возможности языковой модели. Однако необучение не сработает в тех случаях, когда разработчики ИИ публикуют "исходный код" своих моделей, поскольку такой уровень доступа позволит злоумышленникам заново обучить модель ИИ опасным знаниям, например, показав ей статьи по вирусологии. Эталона, который можно было бы применить в данном направлении, пока нет, но разработки, как мы видим, ведутся. В любом случае безопасность должна быть многоуровневой и включать в себя множество методов. NeuroLife

Чай с лимоном NeuroLife

Красивая девушка что-то записывает в необычном, чёрно-белом стиле NeuroLife

Stable Video Генератор преобразования текста и изображений в видео от Stability AI. Платформа при регистрации дает 150 кредитов. Стоимость генерации изображения в видео - 10 кредитов, текста в видео - 11 кредитов. Длительность созданного видео от 2 до 5 секунд, с частотой 30 FPS. Время генерации до 2-х минут. Пользоваться сервисом довольно просто: 1. Выбираем режим преобразования, соотношение сторон и стиль; 2. Выбираем один из 4-х предложенных вариантов; 3. Выбираем движение камеры; 4. Запускаем процесс преобразования. На сайте представлено много работ пользователей. До, недавно вышедшего, ИИ для генерации видео Sora от OpenAI тут еще очень далеко, но проект любопытный и будет развиваться. NeuroLife

Чай с высоких гор, дизайн NeuroLife

Следим за вулканами Яндекс представил сервис для прогнозирования распространения вулканического пепла. Данный иструмент будет служить для более ускоренного оповещения спасательных служб и населения о надвигающейся угрозе. На текущий момент нейросеть вовсю следит за вулканами на Камчатке. Каждый год Камчатку окутывает пепел, что приносит серьезные проблемы и убытки региону, начиная от отмены авиасообщения до вымирания животных местной фауны из-за отсутствия пищи. В 2023 году пеплопад от вулкана Шивелуч стал сильнейшим в регионе за последние 60 лет, а извержение вулкана Ключевского началось в июне 2023 года и продолжается до сих пор. "В устранении пеплопада время — один из самых ценных ресурсов. Нам важно как можно скорее информировать жителей близких к вулканам городов и сёл, своевременно направлять колонну техники с самосвалами и экскаваторами, подвозить населению воду. Мы уже используем несколько технологических решений для этого, при этом надеемся, что применение искусственного интеллекта Яндекса даст прогнозированию новое развитие", - Сергей Лебедев, министр по чрезвычайным ситуациям Камчатского края. Сервис на базе ИИ работает в формате онлайн-карты, где можно выбрать вулкан, время и высоту, чтобы понять, где будет находиться облако. Проект также может быть применим к любым другим вулканам в мире, кроме того, модель может быть дообучена до отслеживания других веществ природного или техногенного характера. Хорошо, когда передовые технологии направлены не только для развлечений. NeuroLife

Стикер, Джим Моррисон играет на скрипке NeuroLife

В настоящее время существует множество нейронок под любые задачи, и уже появились каталоги, где более-менее вся эта масса упорядочена и можно найти под свой запрос необходимый ИИ. Делюсь парочкой, мне известных каталогов: www.aixploria.com theresanaiforthat.com NeuroLife

Бамбуковый лес NeuroLife

Sora - ИИ от OpenAI OpenAI представила миру модель text-to-video - Sora. Эта "малышка" способна генерить, согласно промпту, видео длиной до минуты без потери качества. Модель пока еще "сырая", но производит хорошее впечатление. На текущий момент открыт доступ только ряду тестировщиков, специалистов по информационной безопасности, а также профессионалов в сфере творчества. Они будут давать свои рекомендации по доработке и совершенствованию ИИ. Sora способна генерировать сложные сцены с несколькими персонажами, определенными типами движения и точной детализацией объекта и фона. Модель понимает не только то, что запрашивает пользователь, но и то, как эти вещи существуют в физическом мире. Sora довольно точно интепретирует эмоции, характер и визуальный стиль. ИИ способна генерировать целые видео за один раз или удлинять сгенерированные видео. Также модель способна взять существующее неподвижное изображение и сгенерировать из него видео, анимируя содержимое изображения с точностью и вниманием к мелким деталям. Она также может взять существующее видео и расширить его или заполнить недостающие кадры. Куда без недостатков. Она не всегда справляется с точным моделированием сложных сцен и испытывает проблемы с причинно-следственными связями. Например, человек может откусить кусочек от печенья, но после этого печенье может остаться целым или не будет следа от укуса. Также может путать направление указанного движения, а еще право и лево. Все, созданные видео, будут помечены, как ИИ-контент, а также Sora будет проверять и отклонять текстовые запросы, которые нарушают правила использования, например, запросы, содержащие насилие, сексуальный контент, нецензурные изображения, изображения знаменитостей. То, что представило OpenAI очень впечатляет. И как говорят разработчики у Sora огромный потенциал. NeuroLife

Огромная древняя змея Kandinsky NeuroLife