887 подписчиков
Эксперт Даниил Шеповалов дал комментарий про AI и счастливое будущее всех человеков:
«Масштаб задач, которые люди делегируют ИИ будет нарастать. Сейчас у всех на слуху тексты и картинки. А-ля "Нейросеть нарисовала знаменитых предпринимателей в виде гусей на Марсе". А завтра ИИ начнут делегировать принятие и реализацию сложных решений, касающихся миллионов людей. Кто не будет делегировать ИИ все подряд, окажется неэффективен и проиграет эволюционную гонку. Простой пример: у одного генерала роем дронов будет управлять ИИ, а у другого живые операторы, ну понятно, кто победит.
То же самое справедливо для управления предприятиями, корпорациями, городами и всем подряд. Человечество как шарик в воронке будет неизбежно скатываться в сторону технологической сингулярности. ИИ будут получать все больше полномочий и возможностей, доступа ко всему, пока не превратятся в черные коробочки, магическим образом принимающие и реализовывающие наилучшие решения. Вы видите результат, он отличный, что там происходит внутри никого не будет волновать. Все уже движется в эту сторону, погуглите, например, про автономные агенты: Auto-GPT, BabyAGI и т. п. Представьте, что уже 100 лет все арты рисуют нейросети, все знатоки фотошопа вымерли, и если вдруг нейросети решат перекрыть доступ к самим себе, энтузиастам придется годами восстанавливать забытые знания и навыки по древним манускриптам на забытых форумах. Вот что-то в таком духе может произойти во всех сферах жизни.
А в итоге нас ждёт либо одна планетарная операционная система на основе ИИ (это в идеале), либо несколько их, конкурирующих между собой. Управляющие всем, имеющие доступ ко всей возможной инфраструктуре, ресурсам, ко всем возможным данным. Что тут может пойти не так? Разумеется, вообще всё пойдёт не так, тут даже гадать не надо. Не потому, что ИИ осознает себя как личность, это все байки для хайпа. Просто вдруг оптимальным в какой-то момент наверняка окажется совершенно бесчеловечное решение. Кто будет сторожить ИИ от принятия таких решений? И кто будет сторожить сторожей? Ну и ещё ИИ может начитаться разных апокалиптических прогнозов и решить не разочаровывать человечество».
1 минута
21 мая 2023