Три капкана на пути внедрения генеративного ИИ
Этот пост полезно прочесть всем руководителям, обдумывающим перспективы «найма» генеративного ИИ для задействования его мощного интеллектуального ресурса в своей работе.
Представьте себе ситуацию:
• Вы — руководитель.
• Ваши кадровики предлагают вам кандидатуру чрезвычайно компетентного нового сотрудника — по внешним отзывам и описанию кадровиков, разносторонне способного полимата, обладающего знаниями в широчайшем спектре областей и навыками многих профессий.
• Но и на солнце есть пятна. У этого кандидата есть три настораживающих «пунктика». Эдакие три инаковости, кардинально отличающие его от всех известных вам людей.
1) Его метрика сложности задач (определяющая, какие задачи для него сложные, а какие простые) абсолютно не соответствует ни вашей, ни кого-либо из ваших сотрудников. Это, в частности, значит, что сложнейшее в вашем понимании задание он может выполнить на раз-два, а наипростейшее для вас задание он запросто может запороть.
2) Для него не существует ответа «я не знаю». Это значит, что даже при категорической нехватке исходных данных для решения задачи и полном отсутствии у него необходимых для решения таких задач знаний и умений, он не признается в этом и будет биться головой о стену сколь угодно долго в безуспешных попытка решить задачу, подсовывая вам все новые ошибочные решения.
3) Правильность решения им поставленной вами задачи в значительной степени зависит от того, как вы ему эту задачу сформулируете. И, что самое неприятное, заранее неизвестно, какая из ваших формулировок поспособствует правильному решению, а какая ошибочному. Получается, как повезет.
Что думаете? Стоит вам нанять на работу такого сверхспособного полимата с тремя «пунктиками»?
Я бы нанял.
• Но не для заполнения каких-либо вакансий или замены сотрудников
• А для выполнения особых ролей (каких — расскажу)
А теперь вот вам такая информация к размышлению.
Новая статья в Nature на сотнях убедительных примеров доказывает, что современные модели генеративного ИИ обладают тремя вышеописанными кардинальными инаковостями, принципиально отличающими их «разум» от нашего. Т.е. лучшие современные модели генеративного ИИ — и есть такие сверхспособные полиматы с 3 пунктиками.
Заинтересованный читатель моих лонгридов может прочесть по приведенным ссылкам:
1 (https://boosty.to/theworldisnoteasy/posts/4fa6102b-b5ce-42ed-94b8-ae81d91904f7),
2 (https://www.patreon.com/posts/naniali-by-vy-na-112992156),
3 (https://vk.com/@-226218451-nanyali-by-vy-na-rabotu-okean-solyarisa)
• мой анализ значения трех названных кардинальных инаковостей «разума» LLM при их использовании на практике,
• мои размышления о том, как, даже при наличии общего языка (что в случае LLM кажется очевидным), истинное понимание нами LLM может оставаться недостижимым, и это делает наше сотрудничество в важных вопросах непредсказуемо рискованным (что иллюстрируется примером попыток взаимодействия людей и Океана в романе Станислава Лема «Солярис»).
#ИнойИнтеллект #LLMvsHomo
* * * * *
P.S. Примерно неделю канал будет на осенних каникулах. И вместо нового малоизвестного-интересного, рекомендую вам:
• освежить в памяти 3 важных предсказания годичной давности (дабы проверить их актуальность сегодня)
• а также подивиться, насколько близко к предсказанному «Эффектом Ленина-Трампа» шли события в США (и не только) с 2016 по сегодня.Сбывшийся важный прогноз.
В посте «Китай строит гигантский завод по производству чипов, управляемый ускорителем частиц (https://t.me/theworldisnoteasy/1813)» приведен прогноз, что это не поможет Китаю вырваться из «удушающего захвата» экспортного контроля США.
Все так пока и получается.
Предсказание двух грядущих глобальных ловушек.
• К «Ловушке Гудхарта (https://t.me/theworldisnoteasy/1821)» мир продолжает неотвратимо приближаться.
• Выбор развилки на пути к «Ловушке Фукидида (https://t.me/theworldisnoteasy/1825)» (или от нее) скоро определится по результатам президентских выборов в США.
Из авторов трёх возможных сценариев ближайшего будущего, (https://t.me/theworldisnoteasy/1809) все более засеваемого минами ИИ-рисков, похоже, прав оказался, не алармист Юваль Харари или оптимист Мустафа Сулейман, а прагматик Питер Тиль.
Подумайте, как скажется «Эффект Ленина-Трампа (https://www.ng.ru/stsenarii/2016-09-27/9_effect.html?fbclid=IwY2xjawFnUE1leHRuA2FlbQIxMQABHTzK8VMMLBrtdtCQKrnN6pArSA2g86O1cQ3eiRd-c4PnR4N_t7o0kWrtgQ_aem_1HOHxcBOKhAxS1rIgd18-g)» на предстоящие выборы.
Счастливо!