Меня это тоже немного пугает.
Позволь мне объяснить. В течение последних нескольких месяцев Бюро фискальной службы департамента тестировало программное обеспечение, предназначенное для проверки законодательства и правильного распределения средств между различными агентствами и программами в соответствии с намерениями Конгресса - процесс, известный как выдача ордеров Казначейства. Прямо сейчас люди должны читать каждый счет построчно, чтобы понять, куда идут деньги. Если программу удастся заставить работать, экономия будет значительной.
Увы, это большая проблема. Существует множество инструментов для извлечения данных из файлов HTML (и, конечно же, файлов XML), но Конгресс изначально публикует законодательные акты только в формате PDF; Версии XML или HTML часто приходят через несколько недель. Как известно многим компаниям, для извлечения данных из PDF-файлов обычно требуется вмешательство человека, что может привести к ошибкам при копировании. Проблема в том, что PDF-файлы не имеют стандартного формата данных. Даже «простые» методы извлечения обычно предназначены для работы только в том случае, если соответствующие данные уже представлены в PDF-файле в табличной форме.
Амбициозная надежда казначейства, однако, состоит в том, что его программное обеспечение, когда оно будет полностью готово к работе, сможет сканировать новое законодательство в своей естественной языковой форме, выяснять, куда должны идти деньги, и выдавать соответствующие ордера гораздо быстрее, чем это может сделать человек. Чем быстрее будут выданы ордера, тем быстрее агентство, которое должно получить деньги, сможет начать тратить их.
Довольно крутая штука.
Тем не менее, такое будущее наводит на порочные мысли. Предположим, что программное обеспечение Министерства финансов, которое вы можете называть искусственным интеллектом или нет, в зависимости от вашего вкуса, позже заменяется более совершенной программой, затем лучшей и, наконец, той, которая может имитировать рабочий общий интеллект человеческий разум.
Что может помешать этому будущему ИИ самостоятельно решить, что Конгресс был неправ, отдав еще один миллиард Агентству A, когда, по мнению программы, Агентство B нуждается в этом больше? Программа вносит крошечные поправки в гигантский счет о расходах, и, учитывая, что на самом деле его никто не читал, никто не догадывается.
Звучит невероятно, правда?
Не так быстро.
Для технофилов вроде меня недавние достижения в области искусственного интеллекта являются захватывающими. ИИ приписывают реорганизацию цепочек поставок, чтобы помочь преодолеть сбои, вызванные пандемией. Системы глубокого обучения могут определять более точно, чем врачи.
Так зачем волноваться? В конце концов, большинство специалистов в этой области, уверены, что жесткое программирование удержит даже самый продвинутый искусственный интеллект от выхода за рамки, установленные его создателями. (Вспомните законы робототехники Айзека Азимова.)
Но уже давно есть инакомыслящие, даже среди экспертов. Перспектива неконтролируемого ИИ преследовала исследователей в этой области почти столько же времени, сколько и преследовали писателей-фантастов. Вспоминается книга Джозефа Вайценбаума "Компьютерная мощь и человеческий разум", опубликованная еще в 1976 году, или даже классическая книга Норберта Винера "Бог и Голем, Инк.", основанная на лекциях автора, прочитанных в 1962 году.
Всё это подводит нас к тревожной работе, опубликованной в прошлом месяце шестью исследователями ИИ, которые утверждают, что невозможно показать, что искусственный "суперинтендант" может быть сдержан. Авторы - международная группа, представляющая университеты Германии, Испании и Чили, а также США. Согласно их анализу, как бы плотно ни программировался ИИ, если он действительно обладает обобщёнными умениями рассуждения, "намного превосходящими" наиболее одарённых людей, то, что они называют "тотальной локализацией", оказывается неспособным к формальному доказательству.
Используя то, что называется теорией вычислительности, они предполагают, что сверхразумный ИИ включает в себя фундаментальную команду никогда не причинять вреда людям. (Снова Азимов.) Программирование потребует тогда функции, которая решает, причинит ли то или иное действие вред человеку или нет. Они продолжают показывать, что даже если можно "сформулировать на точном языке программирования" идеальный набор "стратегий управления" для реализации этой функции, нет способа узнать наверняка, будут ли эти стратегии на самом деле ограничивать ИИ.
Не поймите меня неправильно: я не спорю, что министерство финансов должно отказаться от поиска системы, которая извлекает данные из PDF-файлов, не больше, чем я предлагаю, чтобы любой из бесчисленного множества исследователей, работающих над различными аспектами ИИ, остановился. Я продолжаю находить перспективу истинного искусственного интеллекта как никогда захватывающей.
Меня, однако, беспокоит то, как общественная критика искусственного интеллекта склонна к крайностям, а не вникать в суть дела. Мы часто обвиняем зарождающиеся системы искусственного интеллекта в усилении предвзятости - например, в усугублении, а не в исправлении диспропорций в распределении медицинской помощи. Такие вопросы, несомненно, имеют общественное значение. Но, как напоминают авторы статьи о вычислимости, не обязательно быть ни технофобом, ни поклонником апокалипсического стимпанка фантастики, чтобы понять, что время для публичного обсуждения вопроса о сдерживаемости ИИ пришло сейчас, а не позже.
Подпишитесь на канал, чтобы всегда быть в курсе всех актуальных событий в мире инвестиций!
Читайте нас в удобном формате: YouTube , Facebook , Instagram , Telegram
