Недавно наткнулся на очень интересную статью, где говорится, что «Аутофагия в моделях генеративного ИИ может стать проблемой в скором будущем»😱
Что это значит?
Чтобы нейросети могли создавать новый контент, их нужно регулярно обучать на свежих данных, которые создают люди. Но что произойдет, если все перейдут на искусственный интеллект и «человеческий» контент закончится?
В этом случае ИИ начнет обучаться на контенте, который сам же и создал😮
«Новое исследование, проведенное учеными из Университета Райса и Стэнфордского университета в США, говорит о том, что, когда системы искусственного интеллекта обучаются на синтетическом, машинном материале, а не на текстах и изображениях, созданных реальными людьми, качество их работы начинает страдать».
Этот эффект называется модельным расстройством аутографии.
Представь это как процесс копирования копий: каждая последующая копия становится чуть менее четкой, пока в итоге не теряется в качестве совсем. Так же и с ИИ: если он обучается на данных, созданных другим ИИ, со временем его способности могут "замыливаться", приводя к менее креативным и менее точным результатам.
Значит ли это, что мы все обречены?
Нет и ещё раз нет!
Потому что для предотвращения модельного расстройство аутографии скоро будет открыта возможность обучения на видео и аудио.
Возможно, чтобы расширить объем реальных данных, будет дан доступ ко всем микрофонам и камерам.
Вероятно, в этом и будет состоять партнерство Apple и OpenAi - потому что через устройства Apple проходит гигантский объем аудио, когда устройства слушают разговоры в фоновом режиме, и огромные объемы фото и видео на iCloud.
Формально организовать это просто: вместе с новой iOS высылается новое лицензионное соглашение, где указано, что вы согласны давать всю свою информацию для обучения ИИ.
И, внимание!
OpenAI запускает возможность для обучения своей модели на данных, которые вы ему дадите.
Я считаю, отличный способ противодействия эффекту «деградации».
Что думаете на этот счет? Будут ли сливаться наши данные для обучения ИИ?
Материалы для статьи взяты с сайта https://habr.com/ru/articles/838120/
Изучить возможности нейросетей и узнать как их внедрить в работу можно на двухдневной конференции "Нейропрокачка". Для подписчиков бесплатная регистрация!
Подписывайтесь на нас и будьте в курсе последних новинок ИИ: