В 1997 году Deep Blue победил Гарри Каспарова, действующего чемпиона мира по шахматам. В 2011 году Уотсон победил Кена Дженнингса и Брэда Раттера, лучших в мире игроков Jeopardy. В 2016 году AlphaGo победил Ке Цзе, лучшего в мире игрока в го. В 2017 году DeepMind выпустила AlphaZero, которая обогнала компьютерные программы чемпиона мира в шахматах, го и сёги.
Если люди больше не являются достойными противниками, то, возможно, компьютеры настолько далеко вышли за пределы нашего интеллекта, что нам следует полагаться на их превосходный интеллект при принятии важных решений. Неа.
Несмотря на их невероятное мастерство в настольных играх, компьютерные алгоритмы не обладают чем-то похожим на человеческую мудрость, здравый смысл или критическое мышление. Решение о том, принять ли предложение о работе, продать акцию или купить дом, сильно отличается от признания того, что перемещение слона на три клетки поставит оппоненту мат. Вот почему опасно доверять компьютерным программам, которые мы не понимаем, чтобы они принимали решения за нас.
Рассмотрим проблемы, обозначенные Стэнфордским профессором информатики Терри Виноградом, которые стали известны как схемы Винограда .
Например, что означает слово в этом предложении?
Я не могу срубить то дерево топором, он слишком [толстый / маленький].
Если в квадратных скобках стоит слово «толстый», то оно относится к дереву, если в квадратных скобках стоит слово «маленький», то оно относится к топору.
Подобные предложения сразу понимаются людьми, но для компьютеров они очень трудны, потому что у них нет реального опыта, чтобы помещать слова в контекст.
Перефразируя Орена Эциони, генерального директора Института искусственного интеллекта Аллена, как машины могут захватить мир, если они даже не могут понять, что означает «это» в простом предложении?
Когда мы видим дерево, мы знаем, что это дерево. Мы могли бы сравнить его с другими деревьями и подумать о сходствах и различиях между фруктовыми деревьями и кленами. Мы можем вспомнить запахи, доносящиеся от некоторых деревьев. Мы не удивимся, если увидим, как белка прыгает по сосне, или птица вылетает из гнезда. Мы могли бы вспомнить, как сажали дерево и наблюдали, как оно растет год за годом. Возможно, мы помним, как срубили дерево, или смотрели, как срубают дерево.
Компьютер этого не делает. Он может проверять орфографию слова «дерево», подсчитывать, сколько раз слово используется в рассказе, и извлекать предложения, содержащие это слово. Но компьютеры не понимают, что такое деревья в каком-либо значимом смысле.
В чем риски использования ИИ
Чтобы продемонстрировать опасность использования компьютерных алгоритмов для принятия реальных решений, рассмотрите исследование факторов риска смертельных сердечных приступов.
Представим мы берем 1000 условных человек, половина из которых перенесла сердечные приступы, а половина - нет.
В случае перенесенного сердечного приступа ставим во 2-ом столбце «1», «0» - если нет.
Итак: по вертикале у нас люди (1,2,3,4..), по горизонтали параметры трат 100 категорий расходов.(мел.быт, крупн. бытов, автомобили, жилье....)
Для каждого такого человека я использовал генератор случайных чисел, чтобы создать фиктивные данные по 100 категориям расходов. Эти данные были полностью случайными. Не было ни реальных людей, ни реальных расходов, ни настоящих сердечных приступов. Это был просто набор случайных чисел. Но дело в том, что случайные числа неизбежно проявляются в алгоритм.
Некоторые случайные закономерности должны были появиться в моих случайных числах расходов. Как оказалось, по счастливой случайности воображаемые люди, перенесшие сердечные приступы, «потратили» больше денег на мелкую бытовую технику, а также на жилье.
Когда мы видим эти результаты, мы должны посмеяться и признать, что закономерности - бессмысленное совпадение.
Как мелкая бытовая техника и домашние бумажные изделия могут предотвратить сердечные приступы?
Компьютер, напротив, серьезно отнесется к результатам, потому что компьютер не знает, что такое сердечные приступы, мелкая бытовая техника и домашние бумажные изделия.
Тем не менее, #предприятия и #правительства во всем мире в настоящее время доверяют компьютерам принимать решения на основе случайных статистических закономерностей, подобных этим.
Одна компания, например, решила, что будет больше продаж через Интернет, если изменит цвет фона веб-страницы, показываемой британским клиентам, с синего на бирюзовый. Почему? Потому что они пробовали несколько разных цветов почти в 100 странах. Любой данный цвет наверняка будет лучше в одной стране, чем в других, даже если анализировать случайные числа, а не цифры продаж. Произошло изменение, и продажи упали.
Вывод
Многие маркетинговые решения, медицинские диагнозы и торговля акциями теперь принимаются с помощью компьютеров. Заявки на получение ссуды и заявления о приеме на работу оцениваются с помощью компьютеров. Избирательные кампании проводятся с помощью компьютеров, включая провальную президентскую кампанию Хиллари Клинтон в 2016 году .
Если #алгоритмы спрятаны внутри черных ящиков без присмотра человека, тогда #компьютеры должны решить, имеют ли обнаруженные закономерности смысл, а они совершенно неспособны сделать это, потому что они ничего не понимают в реальном мире.
Компьютеры неразумны в каком-либо значимом смысле этого слова, и полагаться на них при принятии важных решений за нас опасно.
Настоящая опасность сегодня заключается не в том, что компьютеры умнее нас, а в том, что мы думаем, что компьютеры умнее нас.
Если Вам понравилась статья ставьте лайки!
Делитесь впечатлениями в комментариях !