OpenAI является разработчиком систем искусственного интеллекта - их программы являются фантастическими примерами суперкомпьютеров, но есть и свои причуды.
DALLE-E2 - это новейшая система искусственного интеллекта OpenAI - она может генерировать реалистичные или художественные изображения на основе введенных пользователем текстовых описаний. Данная система представляет собой веху в машинном обучении — на сайте OpenAI говорится, что программа «изучила взаимосвязь между изображениями и текстом, используемым для их описания».
Но у системы есть одно странное поведение — она пишет на своем языке из случайного расположения букв, и исследователи не знают, почему.
Яннис Дарас, доктор компьютерных наук. студент Техасского университета опубликовал в Твиттере тред с подробным описанием необъяснимого нового языка DALLE-E2.
Дарас попытался создать изображение с двумя фермерами разговаривающими об овощах. Программа выполнила задачу. Однако было обнаружено, что в речи фермеров присутствует несуществующее слова "vicootes" и "Apoploe vesrreaitars".
После этого Дарас ввёл в программу DALLE-E2 слово "vicootes", и, в итоге, получил фото с изображением овощей.
"Когда мы ввели слово "Apoploe vesrreaitars", мы получили изображение птиц.",- сообщает Дарас в Твиттере.
Дарас выложил текст, в котором рассматривает "необычный словарь" DALLE-E2.
В нём его команда признает, что если запросить у программы вывод изображения какого-либо текста (например слова "самолёт"), то программа выведет изображение с надписью на какой-то "тарабарщине". При этом если ввести эту "тарабарщину" в качестве ключевых слов для вывода изображений, то на выходе и будет изображён самолёт. Это говорит о том, что у программы есть своя собственная семантика.
Некоторые исследователи ИИ утверждают, что это всего-лишь случайный набор букв и не более.
