ChatGPT был представлен OpenAI в ноябре 2022 года и еще больше изменил наше понимание того, как ИИ и человеческое творчество могут взаимодействовать.
Построенная как чат–бот – программа, имитирующая человеческое общение, - ChatGPT способна на гораздо большее, чем просто разговор:
- писать рабочий компьютерный код,
- решать математические задачи,
- имитировать обычные письменные задания, от обзоров книг до научных статей, свадебных речей и юридических контрактов.
Сразу стало очевидно, что программа может стать благом для тех, кому сложно писать электронные письма или эссе. А также ее можно использовать для замены тех, кто зарабатывает на жизнь этими задачами.
Многие школы и университеты уже внедрили политику, запрещающую использование ChatGPT, из-за опасений, что учащиеся будут использовать его для написания своих эссе.
Академический журнал Nature был вынужден опубликовать политику, объясняющую, почему программа не может быть указана в качестве автора исследовательских работ (она не может дать согласие и не может быть привлечена к ответственности). Но сами учреждения не застрахованы от ненадлежащего использования инструмента.
Так, Колледж образования и человеческого развития Пибоди, входящий в состав Университета Вандербильта в Теннесси, шокировал студентов, разослав письмо с соболезнованиями и советами после стрельбы в школе в Мичигане.
В этом письме говорилось о ценности общества, взаимного уважения и сплоченности, в примечании внизу говорилось, что оно было написано ChatGPT. Многим это показалось морально неправильным, а обращение в письме окрасилось в какой-то фальшивый оттенок.
Надо призадуматься, что есть много областей жизни, где вмешательство машин требует более глубокого осмысления.
Было бы неуместно в будущем полностью заменять наши коммуникации на ChatGPT. Однако, очевидная тенденция заключается в том, что подобные программы становятся своего рода помощниками, ведущими нас через паутину доступных знаний к информации, которую мы ищем.
Microsoft была первым шагом в этом направлении, перенастроив свою часто пренебрежительную поисковую систему Bing на чат-бота на базе ChatGPT и значительно повысив его популярность за счет этого. Но,
связь ChatGPT с самим знанием несколько шаткая.
ИИ объяснил почему чат-боты допускают ошибки
Один недавний пример взаимодействия с ChatGPT: программу попросили предложить несколько книг для чтения с идеей включения нечеловеческих существ в процессы принятия политических решений. Она выдала список из нескольких книг, в которых подробно исследовалась эта область интересов.
Убедительным человеческим языком ChatGPT описал, почему их стоит прочитать. Но только одна из четырех перечисленных книг действительно существовала. Остальные три названия книг были сгенерированы и "предположены" программой.
ChatGPT по своей сути глуп. Он прочитал большую часть Интернета и знает, как должен звучать человеческий язык, но это не имеет никакого отношения к реальности вообще. Это предложение - изучить список из четырех книг, похоже на то, что может происходить во сне. Идея программы звучит примерно правильно, и слушать, как она говорит так же интересно, как слушать чьи-то сны.
Бот хорош в создании того, что звучит как смысл, но он по-прежнему неспособен осмысленно относиться к миру, каков он есть на самом деле. Вера в такого рода ИИ как в действительно знающего очень опасна. Эти программы влияют на нашу способность думать вообще.
Если, как предлагают технологические компании, результаты запросов ChatGPT будут предоставляться в качестве ответов тем, кто ищет знания в Интернете, и если ChatGPT будет использоваться в школах в качестве учебного пособия, то его галлюцинации войдут в постоянную запись, создавая преграду между нашим мышлением и проверенными источниками информации. Эта грань между здравым мышлением и галлюцинациями бота со временем станет настолько размытой, что в итоге окажется невидимой.
Полностью довериться "мечтам" плохо запрограммированных машин - означает отказ от критического мышления, здравого смысла, присущего и так необходимого каждому человеку, особенно в наш техногенный век.
Не иллюзорный вред ИИ для планеты
Технологии ИИ вредны и для планеты. Обучение одной модели ИИ – согласно исследованию, опубликованному в 2019 году – может привести к выбросу эквивалента более 284 тонн углекислого газа, что почти в пять раз больше, чем за весь срок службы среднего автомобиля, включая его производство.
Ожидается, что эти выбросы вырастут почти на 50% в течение следующих пяти лет, в то время как планета продолжает нагреваться, подкисляя океаны, разжигая лесные пожары, вызывая сверхштормы и приводя редкие виды к вымиранию. Трудно представить что-либо более глупое, чем отдача средств и сил на развитие искусственного интеллекта, когда "дом человечества" гибнет на глазах и в ускоренных темпах.
Давайте сделаем шаг назад.
Если эти нынешние воплощения искусственного интеллекта настолько унылы, каковы альтернативы? Можем ли мы представить мощные технологии сортировки информации и передачи данных, которые не эксплуатируют, не злоупотребляют, не вводят в заблуждение и не вытесняют нас? Да, мы можем – как только мы выйдем за пределы корпоративных сетей власти, которые стали определять текущую волну ИИ.
Фактически, уже есть примеры использования искусственного интеллекта в интересах конкретных сообществ и на благо сохранения уникальных знаний, в обход укоренившейся власти корпораций.
Например, языки коренных народов находятся под угрозой по всему миру. По оценкам ООН, каждые две недели "части непопулярных культур" исчезают, и с этим исчезновением уходят поколения знаний и опыта. Эта проблема, являющаяся результатом колониализма и политики ассимиляции на протяжении многих веков, усугубляется растущим доминированием языковых моделей машинного обучения, которые гарантируют, что популярные языки увеличивают свою власть, в то время как менее известные лишены опыта.
В Новой Зеландии небольшая некоммерческая радиостанция под названием Te Hiku Media, которая вещает на языке маори, решила устранить это несоответствие между представлением разных языков в технологии. Огромный архив более чем 20-летних передач, представляющих широкий спектр идиом (устойчивые выражения присущие только конкретному языку и культуре), разговорных выражений и уникальных фраз, многие из которых больше не произносятся никем из ныне живущих, оцифровывается. Оцифрованный архив нуждается в расшифровке, чтобы быть полезным для исследователей языка и сообщества маори. Именно поэтому радиостанция решила обучить собственную модель распознавания речи, чтобы она могла “прослушивать” свой архив и производить транскрипции.
В течение нескольких лет Te Hiku Media, используя технологии с открытым исходным кодом, а также системы, разработанные собственными силами, достигла почти невозможного: результат - высокоточная система распознавания речи для языка маори, которая была создана и принадлежала ее собственному языковому сообществу.
Это было больше, чем просто разработка программного обеспечения. Радиостанция связалась со всеми группами сообщества маори, с которыми только могла, и попросила их записать, как они произносят заранее написанные фразы, чтобы предоставить базу аннотированной речи, что является необходимым условием для обучения модели.
Был денежный приз для того, кто представит наибольшее количество фраз. Один из активистов, Те Михинга Комене, записал аж 4000 фраз. Но организаторы обнаружили, что наибольшей мотивацией для участников было не денежное вознаграждение, а идея оживления языка, желание сохранить его.
Достижение Te Hiku Media "расчистило путь" для других групп коренного населения. Аналогичные проекты в настоящее время осуществляются народами ирокезов на юго-востоке Канады и коренными гавайцами. Они также установили принцип суверенитета данных в отношении языков коренных народов и, как следствие, других форм знаний коренных народов.
Когда международные коммерческие компании начали обращаться к носителям языка маори с просьбой помочь в создании собственных моделей, Te Hiku Media проводил кампанию против этих усилий, утверждая: “Они подавляли наши языки и физически выбивали это из наших бабушек и дедушек, а теперь они хотят продать наш язык обратно нам в качестве услуги”.
“Данные - это последний рубеж колонизации”, - написал Кеони Махелона, коренной гавайец и один из соучредителей Te Hiku Media. Все работы Те Хику выпускаются под лицензией Kaitiakitanga с юридической гарантией, что все данные, вошедшие в языковую модель и другие проекты, остаются собственностью сообщества, которое их создало – в данном случае, носителей языка маори, которые предложили свою помощь, – и они могут лицензировать или нет, как они сочтут нужным в соответствии с их тиканга (обычаи и протоколы маори). Таким образом, язык маори возрождается, одновременно сопротивляясь и изменяя системы цифрового колониализма, которые продолжают повторять столетия угнетения.
Ясно чувствуется, что урок сегодняшней волны искусственного интеллекта заключается в том, что интеллект - плохая вещь, когда его воображают корпорации. Если ваш взгляд на мир таков, что максимизация прибыли является королем добродетелей, и все должно соответствовать стандарту акционерной стоимости, тогда ваши художественные, образные, эстетические и эмоциональные выражения будут прискорбно обеднены.
Мы заслуживаем лучшего от инструментов, которые мы используем, средств массовой информации, которые мы потребляем, и сообществ, в которых мы живем. И мы получим то, чего заслуживаем, только когда сможем полноценно участвовать во всех процессах создания.
И пусть технологии вас не пугают, ведь на самом деле они не такие уж сложные. Как писала легенда научной фантастики Урсула К. Ле Гуин: “Технология - это то, чему мы можем научиться”.
Всем добра и творчества.
Ставьте лайк! Спасибо!
Начало статьи Глава 1 Искусственный интеллект основан на массовом присвоении существующей культуры. Станет ли ИИ разумным и насколько это опасно? (глава 1)
Глава 2 Искусственный интеллект основан на массовом присвоении существующей культуры. Станет ли ИИ разумным и насколько это опасно? (глава 2)
Глава 3 Искусственный интеллект основан на массовом присвоении существующей культуры. Станет ли ИИ разумным и насколько это опасно? (глава 3)