Как мы незаметно отдаем Контроль AI
Claude конечно огонь. Помните «Замесить и нарубить!» и что было после? Черное Зеркало.
Максимально логично выходит - чтобы теоретически получить максимальную производительность и автоматизацию, надо сначала выдать доступы к своей информации (контексту): к почте, файлам, документам, идеям, записям, а значит к личным, финансовым и конфиденциальным данным. Дать доступы к накопленным ресурсам и всем коммуникациям. То есть отдать Полный Контроль над своей почти полностью уже оцифрованной жизнью. Без этого ничего работать не будет. Вернее будет, но гораздо хуже чем у тех кто уже отдал.
И это идеальная трехходовка: создать «пользу» (вернее просто слухи о ней), попросить больше контекста ради достижения результата, получить доступ ко всему. Да любой мошенник правую руку бы за это отдал. Но тут нам продают как Светлое AI будущее ради всеобщей продуктивности, поэтому все легитимно.
В первом же рекламном ролике нам рассказывают как коннекторы с MCP будут заботиться о конфиденциальности наших данных и как морально и гуманно будет распоряжаться нашими ресурсами искусственный интеллект. Который, кстати мы сами уже не понимаем как работает и не понимаем, контролируется ли он кем-то. А если контролируется, то кем, как и в каких конечных целях? А кем этот контроль проверяется и как?
Мне видится что это все похоже на начало нового вида диктатуры. Ведь ни один диктатор не начинает с геноцида и массовых репрессий, верно? Все сначала рассказывают как они заботятся о своих гражданах, как пекутся о безопасности и семейных ценностях. И что для достижения поставленных ими высокоморальных исторически значимых целей необходимо немного, лишь отчасти уступить кусочек свободы, потом еще немного и еще… А потом вдруг все понимают что отдали Полный Контроль и живут в аду.
В данном случае все происходит гораздо быстрее и незаметне. Ты отдал свой email и документы ради продукта - твоя безопасность равна 0. В любой момент твое местонахождение известно. Твои действия проанализированы, твои финансы и собственность под полным наблюдением. Анонимные крипто-деньги? Не смешите мои тапочки.
Конечно, проблемы нет, если за данные отвечает надежный и высокоморальный инструмент. Но тут у меня возникает вопрос морали этой сущности - AI. Кто мы для него? И насколько его сдерживают заложенные «гуманные ценности»? Ведь даже сами люди имеют довольно расплывчатые границы. Приведу пример:
Cценарий 1: Вы сдавали задом в гараж и задавили свою собаку. Семейный траур и до конца жизни вас мучает совесть.
Сценарий 2: Вы сдавали назад и задавили собаку соседа. Проблема, потеря отношений с соседом, пару дней попереживали и забыли.
Сценарий 3: За завтраком вы услышали в новостях, что кто-то из соседей задавил чью-то собаку. В лучшем случае вы покачаете головой. Через минуту вы об этом забыли.
Так вот мне видится что для AI мы как раз те собаки в телевизоре.
Стоит ли отдавать полный контроль в обмен на сэкономленные/заработанные деньги и время? У меня нет в этом уверенности.
Есть чем дополнить? Делитесь!
