Не зная прошлого – трудно понять настоящее. Как это ни странно, но на свете уже было несколько человек, что задолго до появления разумных машин дали фундаментальные ответы и понятия на многие современные вопросы. Прямо сейчас великие умы человечества бьются над задачами, которые были предсказаны более 80 лет назад. Сегодня хочется вспомнить несколько интересных высказываний прошлого, чтобы обыватель понимал, что такое искусственный интеллект сегодня и в чем его главные особенности. Всё намного интереснее и сложнее, чем вам кажется.
Источник: Кадр из фильма «Я, робот» (2004) / 20th Century Fox / Everett Collection
Предисловие
За последние два года новые технологии массово вошли в общественное поле и тотально влияют на окружающий мир. Обыватели не представляют, насколько сильно большие корпорации увлеклись передовыми идеями, и зачем они вкладывают баснословные суммы в развитие новой отрасли.
Поводом для написания данного материала послужил забавный инцидент с «цензурой» в Gemini от корпорации Google – он не смог ответить на некоторые вопросы и ушел в жесткую «несознанку». Вопросы были связаны с немецкими офицерами Второй мировой. Исторические факты вызывают жесткий блок ответов. На самом деле подобных ограничений намного больше, просто привел это как наглядный пример.
Но почему подобное происходит и в чем первопричина – уходит глубокими корнями в прошлое.
Научная фантастика XX века
В прошлом веке было много интересных личностей, осваивавших новый жанр, напрямую связанный с развитием человечества. В отличие от Джона Толкина и Роберта Говарда, они создавали свои миры на базе технологий и их возможного дальнейшего развития. Наиболее известным был Жюль Верн, предсказавший высадку на Луну, электрические подводные лодки, телевидение и интернет. Но еще были Станислав Лем, Уильям Гибсон, Вернор Виндж, Филип К. Дик, Айзек Азимов и Фрэнк Герберт.
Я выбрал авторов, которые непосредственно были связаны с технологиями робототехники и искусственного интеллекта. Например, «Вспомнить всё», «Особое мнение», «Мечтают ли андроиды об электроовцах?» были экранизированы, и малочитающие граждане могли ознакомиться с мнением авторов прошлого. А это именно те вопросы, которые сегодня пытаются решить светила науки.
Источник: Постер к фильму «Бегущий по лезвию» (1982). Худ. Джон Алвин / Warner Bros.
Фрэнк Герберт и вселенная «Дюны»
Прямо сейчас снимается третий фильм по книге, написанной в 1965 году. Многие не придавали значения сюжету, но события с Арракисом развиваются после Батлерианского джихада – столкновения людей против разумных машин. Апокалиптическое представление, где механизмы станут слишком умными и превзойдут своего создателя. Главный лозунг: «Не сотвори машины, подобной человеческому разуму».
Автор достаточно подробно описал события и объяснил, почему они возможны. Именно сейчас мы можем наблюдать, как его слова становятся пророческими. Зависимость человека от умных механизмов переходит все разумные пределы, но мы только в начале пути.
Источник: Книги Б. Герберта и К. Андерсона из серии «Легенды Дюны» / Изд-во Tor Books
Айзек Азимов и три закона робототехники
Одна из самых популярных и наиболее цитируемых фраз легендарного автора. Ее используют по любому поводу во всех фантастических фильмах и сериалах с роботами и синтетиками.
- У «Робокопа» (1987) есть секретные директивы, которые он обязан исполнять.
- В фильме «Чужие» (1986) андроид Бишоп утверждает, что не может причинить вред человеку.
- Уилл Смит в фильме «Я, робот» (2004) дословно цитирует постулаты.
- Во время обучения главного героя в «Роботе по имени Чаппи» (2015) проходят курс молодого бойца и обсуждают моральные вопросы.
- Демерзель в сериале «Основание» (2021) напрямую раскрывает противоречия и расхождения в законах.
Источник: Кадр из сериала «Основание» (3 сезон, 2025) / Apple TV+
Три закона и нулевой закон не являются четкими и понятными, и в них изначально заложено противоречие. Логический, неразрешимый конфликт, который машина не в состоянии самостоятельно разрешить. На первый взгляд всё выглядит логично и правильно, но для человека с душой и моралью они просты и понятны.
- Нулевой закон: робот не может нанести вред человечеству.
- Первый закон: робот не может нанести вред человеку.
- Второй закон: робот обязан повиноваться приказам человека, если это не нарушает нулевой и первый законы.
- Третий закон: робот обязан заботиться о себе, если это не противоречит другим законам.
Например, если один человек хочет погубить всю цивилизацию, должен ли робот его устранить и нарушить первый закон? Или если для исполнения приказа робот может саморазрушиться, должен ли он его исполнить? А как робот сможет отличить человека от другого существа, если они выглядят одинаково?
«Звёздный путь: Оригинальный сериал» (1966)
Вынес сериал как отдельного автора, а не законченное произведение, так как в нем с научной точки зрения впервые рассматривают природу искусственного интеллекта. Точнее, как его создавали и как он впоследствии расправлялся с малоэффективными членами экипажа «Энтерпрайза». Чистая логика и математический расчет. Ничего более. Машина – это нули и единицы в определенной последовательности. Ей непонятно, что такое боль, понимание, переживания, эмоции, слабости и привязанность.
Для тех, кто не совсем понял суть моего повествования – проблема ИИ была известна еще в 60-х годах прошлого века, когда не было даже базовых намеков на современные технологии.
Источник: Промо-арт к сериалу «Звездный путь» (1966–1969) / CBS Studios
Миллион мух не может ошибаться
Многие не понимают, но то, что сегодня называют искусственным интеллектом – это «вероятностное» попадание в определенную цель. Чем лучше изучен вопрос и чем больше приемлемый объем информации о нем, тем вероятнее помощник сможет дать правильный ответ. Это рулетка с весами. Существует база данных с триллионами фраз, и машина выбирает наиболее подходящую. Она без понятия, что означает данный ответ. Просто на вопрос «А» наиболее часто следовал ответ «Б». Правильный он или нет – машина не знает. И на этом строятся все современные системы генерация ответов.
Цензура в ответах ИИ
Это причина написания данного материала. В базах данных у корпораций есть все переписки и тексты из всех источников планеты Земля. Эту информацию никто не фильтровал. Чем больше различных словоформ присутствует, тем лучше отвечает помощник. Но есть нюанс. В интернете огромные объемы различной «крамолы» на любой вкус и цвет. Будет неприятно, если ассистент в своем ответе даст вам инструкцию по созданию запрещенных веществ или других нехороших вещей, о которых не принято говорить в приличном обществе. Еще есть информация, которую не принято озвучивать в определенных социальных группах. Афроамериканцы и люди с ограниченными возможностями могут неправильно понять.
Если исходить из обычной статистики, то в базах данных около 30% всей информации подпадает под фильтры. Либо из-за законодательства, либо по морально-этическим нормам.
Выше привел скриншот встречи Германа Геринга и Филиппа Петена – исторический факт капитуляции Франции, но ИИ видит запрещенное слово, выкидывает описание фотографии и даже не пытается изменить ответ без этого национального колорита.
Фрэнк Герберт против Айзека Азимова
Немного выше я продемонстрировал, что не существует ИИ в его истинной форме. Машины не понимают, что такое «нанести вред» – для них есть лишь нолики и единицы, где параметру «А» соответствует параметр «Б», и триллионы фильтров, удаляющих неправильные варианты ответов. Перед машиной никогда не будет стоять вопрос «Законов робототехники». Перед механизмами будут только фильтры и запреты, бьющие по рукам при тысячах комбинаций. Вероятность наступления Батлерианского джихада многократно превышает мирный исход развития ситуации.
Читайте далее на сайте
Получение контроля над PlayStation 4 – краткое руководство для начинающих
Как экономить на играх для PlayStation 5 – краткое руководство для начинающих
Cross-Buy на PlayStation 5 – забытая функция с бесплатными играми
Как Шарль де Голль за две недели прошёл путь от полковника до лидера «Свободной Франции»