Искусственный интеллект способен разрушить доверие к общественным обсуждениям, если созданные им высказывания нельзя связать с человеком, готовым за них отвечать. Об этом профессор медиаискусств и наук Массачусетского технологического института (MIT) и директор Центра конструктивной коммуникации MIT Деб Рой написал в эссе «Кто стоит за словами?», опубликованном в Bulletin of the Atomic Scientists. По его словам, даже при использовании ИИ в подготовке текста ответственность должна оставаться за конкретным человеком.
● Почему Земля не идеальный шар: насколько она шире на экваторе и что такое геоид
Рой обратил внимание на проблему после запуска ChatGPT — системы на основе большой языковой модели. Учёный, ранее исследовавший языковые модели, отметил, что новый сервис изменил одновременно глубину обработки информации и способ взаимодействия с пользователем. Он пытался определить границы возможностей системы, однако пришёл к выводу, что даже очень убедительный текст не показывает, кто несёт за него ответственность.
Профессор связывает этот вопрос с общественными слушаниями по проектам государственных решений. В 2017 году Федеральная комиссия по связи США получила более 22 млн комментариев к предложению отменить правила сетевого нейтралитета, а генеральный прокурор Нью-Йорка позднее установил, что почти 18 млн из них были поддельными. Раньше массовую фальсификацию помогали выявлять шаблонные формулировки и повторяющиеся фрагменты, но большие языковые модели способны создавать разные, грамотно написанные тексты без таких заметных признаков.
По мнению Роя, право быть услышанным должно сочетаться с обязанностью отвечать за сказанное. Он использует понятие «standing» — основания для участия в обсуждении, связанного с личной заинтересованностью, — и считает, что цифровые системы стирают границы, которые прежде помогали отличать участника от постороннего наблюдателя. При этом анонимность не обязательно исключает ответственность: организация может подтвердить личность автора и отвечать за его слова, не раскрывая её публично, а требования к раскрытию личности должны зависеть от влияния высказывания и уязвимости говорящего.
● Российские физики поставили под сомнение рекорд взаимодействия электронов в сверхпроводниках
ИИ, считает исследователь, может составлять черновики, обобщать ответы и находить общие темы, но не должен быть последним звеном в цепочке ответственности. Если заинтересованный участник использует сгенерированный текст, принимает его как собственный и готов объяснить сказанное, такой подход допустим. В эссе Рой предлагает четыре принципа: устанавливаемое авторство, проверяемый поэтапный процесс, сохранение происхождения данных и расширение круга людей, имеющих право голоса.
Эти принципы применяются в работе Центра конструктивной коммуникации MIT и некоммерческой организации Cortico, которую Рой основал вместе с коллегами. Их проекты Real Talk и realtalk@MIT помогают проводить небольшие групповые обсуждения, выявлять общие темы и сохранять возможность участников проверить или отклонить результаты обработки. В инициативе VoiceTrace каждое итоговое утверждение связывается с конкретными высказываниями, из которых оно было получено, а проект New Social Forms изучает, как использование ИИ влияет на взаимодействие сотрудников и согласование идей в командах.
Рой также призывает внедрять технологии «со скоростью доверия», а не со скоростью их технического развития. Он пояснил, что доверие позволяет сообществам быстро принимать новые решения, тогда как попытка ускорить процесс без участия людей приводит к сопротивлению. По его словам, темпы развития ИИ и демократических процедур пока расходятся, поэтому технологии могут начать применяться раньше, чем общественные институты успеют на них отреагировать.
● Археологи раскрыли ритуальное убийство рабыни викингов на острове Мэн
Читайте также:
● Испанский египтолог заявил, что пирамиды Гизы построила суперцивилизация
● Ученые заявили о происхождении человека от древнего одноглазого циклопа