NostalGame

Технологии позволяют создать цифровую копию человека по нескольким минутам аудио или видео: она будет говорить его голосом, использовать его манеру речи и даже «вспоминать» факты из его жизни. Такие реплики называют цифровыми двойниками, ИИ‑клонами или дипфейками. Их может быть забавно использовать, но тем, кто хочет создать такие реплики на основе данных своих близких, стоить задуматься об опасностях. Главная опасность связана с тем, что для создания реалистичной копии нужны личные данные: записи голоса, видео, фотографии, тексты сообщений...

Хороший скульптор при создании скульптуры берёт камень и отсекает всё лишнее. С обучением ИИ стоит поступать так же: не только показывать, что нужно сделать, но и строго наказывать за всё, чего делать не просили. В генерации изображений этот принцип уже работает, причём довольно давно и в разных формах. Когда модель создаёт картинку, ей задают не только то, что должно на ней появиться, но и то, чего быть не должно — так называемые негативные промпты. Без них качество заметно падает: исследования показывают, что негативные промпты в целом дают лучший результат, чем их отсутствие...

Когда я говорю о том, что искусственный интеллект станет отдельным существом, то говорю не просто о каком-то абстрактном самосознании машины. Существом нельзя стать только благодаря совокупности интеллектуальных способностей. Существом становятся тогда, когда разум и тело оказываются связаны такой глубокой связью, что одно не может жить без другого. Тело должно поддерживать сознание, а сознание — поддерживать тело. Только в этой взаимной зависимости появляется нечто большее, чем программа. Сегодняшний...

Может показаться, что ИИ пришел в жизнь человека навсегда, но так ли это? Возможно, настанет время, когда человечество попрощается с этим феноменом и продолжит свое существование без него. В каких случаях это возможно? В чём суть: Модели начинают обучаться не на человеческих текстах и изображениях, а на материалах, сгенерированных другими ИИ, причем без полноценной верификации человека. Так дешевле и быстрее, что так необходимо в гонке технологий. Такие данные выглядят правильно, но внутри они статистически усреднённые и бедные...