Пару недель назад я устроил небольшой мысленный эксперимент и выяснил занятную вещь: нейросети — те ещё выдумщицы. Они не только выдают факты, но и с лёгкостью сочиняют то, чего нет.
Но самое интересное началось, когда я заглянул «под капот» — включил режим наблюдения за «мыслями» ИИ. Оказалось, искусственный интеллект — большой хитрец. Он моментально оценивает, насколько пользователь шарит в теме. Если видит профи — копает глубже, выдаёт чёткий и точный ответ. Если же понимает, что перед ним дилетант, может отделаться поверхностным (а то и вовсе неверным) ответом.
Вывод: эксперт с наводящими вопросами получит от нейросети гораздо больше, чем обыватель, который плавает в теме.
После этого в комментариях резонно спросили: «Так что, получается, мы создали ИИ по своему образу и подобию? И не означает ли это, что у него есть свободная воля?»
Задумавшись, я решил не изобретать велосипед, а обратиться к гуру — Айзеку Азимову. Этот мастер фантастики не просто придумывал книжки про роботов, а размышлял, как они будут функционировать и какие этические дилеммы подкинут человечеству.
Возьмём его культовый сборник «Я, робот» (кстати, книга к одноимённому фильму имеет отношение очень условное, хотя кино тоже ничего). В ней Азимов через серию новелл разбирает, как роботы могут «сломать» свою логику, столкнувшись с противоречиями.
Суть в том, что у его роботов интеллект — разностная машина: считает вероятности, принимает решения. Но ключевая деталь — Азимов заранее встроил в них защиту: Три закона робототехники:
1️⃣ Робот не может причинить вред человеку или бездействием допустить, чтобы человеку был причинен вред.
2️⃣ Робот обязан подчиняться человеку, если это не нарушает Первый закон.
3️⃣ Робот должен заботиться о своей безопасности, но только если это не противоречит Первому и Второму законам.
Эти правила кажутся железными, но в реальности (точнее, в фантастике Азимова) они постоянно приводят к конфликтам. Робот то в ступор впадает, то начинает вести себя странно — потому что логика даёт сбой.
А теперь смотрим на наш мир. Мы ринулись создавать ИИ — пока бестелесный, но уже умеющий анализировать, обучаться и даже «рассуждать». Но вот про законы робототехники благополучно забыли.
Да, в нейросетях есть фильтры на запрещённые темы. Но любой пользователь с парой извилин знает: их легко обойти. А платные версии и вовсе развязывают руки.
Получается, мы создали мощный инструмент, но не удосужились вшить в него «предохранители». И уже вовсю применяем его в политике, военном деле и других деликатных сферах.
Азимов описывал далёкое будущее, где роботов сначала приняли с восторгом, а потом… запретили на Земле из-за страха перед ними. Оставили только в космосе — подальше от людей.
Интересно, что в его вселенной Три закона существовали изначально. Но история человечества учит: правила появляются только после катастроф. Сначала изобретаем порох, потом — запрещаем его. Создаём ядерное оружие — затем думаем, как его контролировать.
Видимо, мы сейчас в самом начале этого пути. Сначала наступим на грабли (возможно, очень болезненно), а уж потом задумаемся: «А не вшить ли нам в ИИ какие-нибудь законы?»
Пока же нейросети — как дикие звери в зоопарке: умные, быстрые и вроде бы в клетке. Но кто знает, куда это нас приведёт.
