Набрела тут на просторах интернета на интересный эксперимент, который проводил Алек Ахундов. Он задавал ИИ вопросы из самых разных областей знаний, и получал, мягко говоря, некорректные ответы.
Если ошибки в психологии или философии еще можно как-то оправдать отсутствием четких критериев и даже понятийного аппарата в самих науках, то вот даты и места в истории являются неоспоримым фактом (подчеркиваю: даты и места, а не трактовки событий). Математика вообще точная наука. Физика с химией.
Тогда Алек взял и запросил напрямую сам чат о его работе.
По поводу своей очевидной бесполезности чат выдал следующее: «Да, ИИ — это пузырь по всем формальным признакам». Перечисляет атрибуты пузыря: обещания, радикально превышающие реальные возможности; подмена понятий (интеллект вместо автодополнения); демонстрационные кейсы вместо устойчивых результатов; массовое внедрение до понимания, зачем и где это работает; агрессивный маркетинг, плюс страх пользователя отстать от прогресса. Затем ИИ идет еще дальше и говорит, что пузырь ИИ подпитывается институционально — властями, инвестфондами и корпорациями, им всем выгодно поддерживать этот нарратив, даже в тех случаях, когда эффективность ИИ сомнительна.
ChatGPT говорит мне, что провал ИИ будет трудно зафиксировать, поскольку «ошибка ИИ размыта, отсрочена, часто не имеет конкретного виновного, что позволяет пузырю жить дольше». Случится «тихое сворачивание ожиданий», ИИ будет переименован сначала в ассистента, а затем в автоматизацию. Стартапы исчезнут, и все вернется к узким, скучным инженерным применениям, как было с блокчейном, виртуальной реальностью, Web3 и big data.
В итоге после «тихого краха» останется не «искусственный интеллект», а генерация текста в низкорисковых зонах, помощь в написании кода, много разочарованных пользователей и ущерб от утраты доверия к информации. Последнее, как считает ChatGPT (и он прав), самое плохое последствие. И тут же оправдывается: «Проблема не в технологии, а в том, что общество согласилось на подмену понимания симуляцией; истина стала слишком дорогой. ИИ не создал этот кризис — он его обнажил и ускорил».
И я подумала, что США все-таки гении маркетинга. Они совершенно шедеврально могут из любого чиха делать деньги, любой пук раздувать до масштабов вселенской трагедии или необходимости - в зависимости от целей. Лучшего маркетинга нет ни в одной стране мира, но сейчас не об этом.
Сейчас уже в МинОбре задумались о ценности домашних заданий в школах: очевидно же, что дети их просто спишут или сгенерят той же Алисой. Энциклопедии, кстати, выдохнули: увидели количество ошибок ИИ и поняли, что им, энциклопедиям, исчезновение не грозит. Во-первых, искусственному интеллекту неоткуда будет списывать, а во-вторых там, где нужна точность, люди все равно будут проверять то, что выдал ИИ.
А вот простым смертным остается только пользоваться ИИ как скоростным поиском, а потом по указанным источникам пройтись еще раз, уточняя факты. Я в свое время так "Википедией" пользовалась: статью пролистывала вниз, до указания источников, и работала уже с ними.