Генерация изображений и текста ИИ - это чистое примитивное накопление: экспроприация рабочей силы у многих для обогащения и продвижения нескольких технологических компаний Силиконовой долины и их владельцев-миллиардеров. Эти компании зарабатывали свои деньги, внедряясь во все аспекты повседневной жизни, включая самые личные и творческие сферы нашей жизни:
- наши тайные страсти,
- наши личные разговоры,
- наши сходства
- и наши мечты.
Они окружили наше воображение почти так же, как землевладельцы и бароны-разбойники окружили некогда общие земли. Они пообещали, что при этом откроют новые сферы человеческого опыта, предоставят нам доступ ко всем человеческим знаниям и создадут новые виды человеческих связей. Вместо этого они продают нам наши мечты, переупакованные как продукты машин, с единственным обещанием, что они заработают еще больше денег на рекламе на обратной стороне.
Странность генерации изображений ИИ существует как на выходе, так и на входе
Один пользователь попытался ввести бессмысленные фразы и был смущен, обнаружив, что у Dall-E mini, похоже, было очень хорошее представление о том, что такое “Крунгус”.
Неизвестная фраза, которая постоянно создавала изображения рычащей, обнаженной фигуры, похожей на людоеда. Крунгус был достаточно ясен в воображении программы, чтобы им можно было легко манипулировать: другие пользователи быстро предлагали изображения древних гобеленов Крунгуса, мозаики Крунгуса в римском стиле, картины маслом с изображением Крунгуса, фотографии Крунгуса, обнимающего различных знаменитостей, и, поскольку это Интернет, “сексуальный” Крунгус.
Итак, кто или что такое Крунгус? Пользователи Twitter поспешили описать его как “первого криптида ИИ”, а именно существо, подобное Снежному человеку, которое существует, в данном случае, в недостаточно изученной области воображения ИИ.
И это примерно самый ясный ответ, который мы можем получить на данный момент, из-за нашего ограниченного понимания того, как работает система. Мы не можем заглянуть в ее процессы принятия решений, потому что способ, которым эти нейронные сети “думают”, по своей сути бесчеловечен.
Это продукт невероятно сложного математического упорядочения мира, в отличие от исторического, эмоционального способа, которым люди упорядочивают свое мышление.
Крунгус - это иллюзия, возникающая из модели мира ИИ, составленная из миллиардов ссылок, которые избежали своего происхождения и объединились в мифологическую фигуру, не связанную с человеческим опытом. Это интересно и даже удивительно, но это заставляет задаться вопросом, чьи мечты здесь воплощаются? Какая совокупность человеческой культуры, какой взгляд на нее породил этот кошмар?
Похожий опыт произошел с другим цифровым художником, экспериментировавшим с негативными подсказками, методом генерации того, что система считает полярной противоположностью того, что описано.
Когда художник ввел “Брандо1”, система вернула нечто, немного похожее на логотип компании по производству видеоигр под названием DIGITA PNTICS. То, что это может быть противоположностью Марлону Брандо во многих измерениях системного видения мира, кажется достаточно разумным.
Но когда они проверили, не пошло ли все по-другому, введя “Логотип skyline от DIGITA PNTICS1”, произошло нечто гораздо более странное: на всех изображениях была изображена жутко выглядящая женщина с запавшими глазами и покрасневшими щеками, которую художник окрестил Лоаб.
Однажды обнаруженная, Лоаб казалась необычно и тревожно настойчивой. Загрузка изображения обратно в программу в сочетании со все более расходящимися текстовыми подсказками продолжала возвращать Loab во все более кошмарных формах, в которых преобладали кровь и насилие.
Вот одно из объяснений для Лоаб и Крунгус
Очень сложно представить, как работает воображение машины, но можно представить, что "машинное воображение" имеет форму. Эта форма никогда не будет гладкой или аккуратно закругленной: скорее, в ней будут впадины и вершины, горы и долины, области, полные информации, и области, в которых вообще отсутствует множество функций.
Эти области с высоким уровнем информации соответствуют сетям ассоциаций, о которых система “знает” многое. Можно представить, что области, связанные с человеческими лицами, автомобилями и кошками, например, довольно плотные, учитывая распределение изображений, которые можно найти в интернете.
Именно эти области генератор изображений ИИ будет использовать в наибольшей степени при создании своих изображений. Но есть и другие места, менее посещаемые, которые вступают в игру, когда используются негативные подсказки – или, действительно, бессмысленные фразы. Чтобы удовлетворить такие запросы, машина должна опираться на более эзотерические, менее определенные связи и, возможно, даже делать выводы из совокупности того, что она знает, какой может быть ее противоположность. Здесь, в глубинке, можно встретить Лоаба и Крунгуса.
Эта теория поднимает некоторые неудобные вопросы о том, почему Крунгус и Лоаб выглядят так, как они выглядят. Почему они склоняются к ужасу и насилию? Почему они намекают на кошмары?
Генераторы изображений ИИ в своей попытке понять и воспроизвести всю человеческую визуальную культуру, похоже, воссоздали и наши самые темные страхи. Возможно, это просто признак того, что эти системы действительно очень хороши в подражании человеческому сознанию, вплоть до ужаса, который скрывается в глубинах существования: наших страхов перед грязью, смертью и разложением.
И если это так, нам нужно признать, что это будут постоянные компоненты машин, которые мы создадим по нашему собственному образу и подобию. Невозможно избежать таких навязчивых идей и опасностей, невозможно смягчить или спроектировать реальность человеческого состояния. Грязь, отвращение к темным сторонам жизни и страх смерти останутся с нами, так же как с нами всегда надежда, любовь, радость и светлые открытия.
То, какое "наполнение" будет преобладать важно, потому что генераторы изображений ИИ не только будут делать то, что делали все предыдущие технологии, но они также пойдут дальше.
Они будут воспроизводить предубеждения тех, кто их создает. Например, веб-камеры, которые распознают только белые лица, или системы прогнозирования полиции, которые следят за уровнем преступности, смещение эталона производительности ИИ с узкой области (головоломки, игры в шахматы, соблюдение правил дорожного движения) на гораздо более широкую территорию воображения и творчества.
Заявления о “креативности” ИИ могут быть преувеличены – в создании изображений нет подлинной оригинальности, только очень умелая имитация и стилизация. Но это не значит, что он не способен выполнять многие обычные “художественные” задачи, которые долгое время считались прерогативой квалифицированных работников: от иллюстраторов и графических дизайнеров до музыкантов, видеооператоров и писателей. Это огромный сдвиг.
ИИ теперь взаимодействует с базовым опытом чувств, эмоций и настроения, и это позволит ему формировать мир и влиять на него на все более глубоких и убедительных уровнях.
Ставьте лайк! Спасибо!
Начало статьи Глава 1 Искусственный интеллект основан на массовом присвоении существующей культуры. Станет ли ИИ разумным и насколько это опасно? (глава 1)
Глава 2 Искусственный интеллект основан на массовом присвоении существующей культуры. Станет ли ИИ разумным и насколько это опасно? (глава 2)
Продолжение статьи Глава 4 Искусственный интеллект основан на массовом присвоении существующей культуры. Станет ли ИИ разумным и насколько это опасно? (глава 4)