В третьем томе «Обучение восприятие и действие» трёхтомника Стюарта Рассела и Питера Норвига «Искусственный интеллект. Современный подход» мы коснёмся, прежде всего, этических норм применения искусственного интеллекта. В ходе заседания XIII Рождественских парламентских встреч Государственной Думы Патриарх всея Руси говорил о том, что искусственный интеллект опаснее, чем ядерная энергия, особенно если этот искусственный интеллект будет запрограммирован на нанесение сознательного вреда человеческой нравственности, человеческому общежитию и другим ценностям. Существует, например, реальная опасность утраты интеллектуальных и творческих навыков человека.
Взять, к примеру, уже упоминавшийся китайский чат «ДипСик». Пользователи чата отмечают его грамотный русский язык. Чем, кстати, не мог похвастаться его не менее знаменитый предшественник, американский «ЧатДжиПиТи». «ДипСик» имеет значительно большую глубину поиска. Всё это делает его уникальным средством для написания школьных сочинений и институтских рефератов. Можно провести эксперимент. Китайскому чату задать вопрос, а потом сгенерированный ответ проверить на уникальность. Уникальность составит в пределах нормы, то есть, 80%. Пойди докажи, что сочинение или реферат писал не учащийся. Нет сомнений, что подобными чатами станут пользоваться большинство учащихся, студентов, соискателей диссертаций. Значит уровень образованности нашей нации сильно пострадает. Этого, как известно, допустить ни в коем случае нельзя. В современной России вкладываются огромные средства для развития в молодом поколении тяги к сложным, наукоёмким профессиям. Президент Владимир Путин на встрече с молодыми учеными сказал, что к 30-му году Россия выйдет в число лидеров по объёму финансирования науки. И всё бы ничего, но, если студенты будут использовать подобные чаты, качество их профессиональных навыков будет не самым высоким. Что в подобной ситуации делать?
На память приходит заметка, появившаяся в новостной ленте лет десять назад. В предместьях Лондона открылась частная школа по углубленному изучению естественных наук. Особенности этой школы были следующие:
- характер пансиона – детей отпускали только на один выходной;
- полный запрет на интернет, компьютеры, мобильные телефоны – школа обладала прекрасной библиотекой;
- допустимость телесного наказания розгами.
Данному проекту пророчили провал, однако популярность школы превзошла все ожидания и вскоре туда было невозможно отдать ребёнка. Естественно, и цена за обучение была немалая. В чем секрет успеха? В том, что детей учили думать, анализировать и самостоятельно, без помощи гаджетов, находить ответ. Помимо всего прочего, есть убедительный аргумент в пользу воспитания дисциплины.
Еще в начале 90-х на занятиях по философии в рамках аспирантуры преподаватель заявил, что компьютер сначала убьёт в человеке способность мыслить, а потом убьёт и самого человека. Не уверен в последней части, но насчет исчезновения искусства мыслить, пророчество сбывается на наших глазах. То, что для нашей страны вновь включен механизм оболванивания - вне всякого сомнения. И надо сейчас уже предпринимать какие-то меры. Но какие? Можно, конечно, ограничить доступ к китайскому чату так, как мы отрубили доступ к ютубу и фейсбуку. Но кто хочет пользоваться этими ресурсами, пользуется без ограничений. А потом, сам метод запрета – не самый лучший. Быть может, придётся менять схему обучения? Допустим рефераты писать не дома, а в аудиториях. Ведь главное в любом образовании -, научить студентов мыслить, а не бездумно формулировать вопросы в чатах нейросетей. Искусственный интеллект должен быть ограничен международными соглашениями. Об этом не раз предупреждал в своей социальной сети известный предприниматель Илон Маск.
Искусственный интеллект может вызвать массовую безработицу.
«Общепринятая экономическая точка зрения на протяжении большей части ХХ века состояла в том, что технологическая безработица в основном являлась краткосрочным явлением. В 2019 году компания IВМ опубликовала прогноз, что к 2022 году из-за автоматизации потребуется провести переподготовку 1 20 млн работников, а Оксфордский институт экономической политики в своем прогнозе утверждает, что к 2030 году из-за автоматизации могут быть потеряны 20 млн рабочих мест.
Фрей и Осборн в обзоре [783] (2017) проанализировали 702 различные профессии и оценили, что 4 7% из них подвергаются риску автоматизации в том смысле, что по крайней мере некоторые из производственных операций в данной профессии могут быть выполнены с помощью машин. Например, почти 3% всей рабочей силы в США являются водителями автомашин, а в некоторых районах водителями являются не менее 15% всех работающих мужчин. Важно понимать различие между профессией и отдельными операциями в рамках профессии. По оценкам компании McКinsey, лишь для 5% профессий можно автоматизировать все выполняемые операции, тогда как автомаrизация до 30% операций возможна уже для 60% профессий. Работникам, чьи рабочие места были утрачены вследствие автоматизации за последние десять лет, вероятно, пришлось обучаться новой профессии в течение нескольких лет, а затем, возможно, увидеть, что их новая профессия также автоматизирована, и оказаться перед лицом еще одного периода переобучения.
Таким образом, на рынке труда может проявиться многочисленная армия лишних людей. Их даже нельзя будет занять на общественно-полезных работах: дворниками, разнорабочими, мойщиками. Всё будет роботизировано. И что с ними делать – очень сложный вопрос. По сути, машины постепенно вытеснят людей. И дальше что? Конечно, это будет прекрасное далёко. Хотя может быть совсем и не прекрасное.
Еще совсем недавно мир был озабочен возможным применением ядерного оружия. Советский Союз был в авангарде запрещения ядерного оружия. В то же время говорили недругам, что мы вам такую борьбу за мир организуем, камня на камне не останется. И вот на научно-техническом горизонте возник новый тип оружия – автономное оружие. Оружие, наделённое искусственным интеллектом, способное уничтожать противника в течении длительного времени без участия нападающей стороны.
«В противовес этому можно утверждать, что по мере совершенствования технологий должна появиться возможность разрабатывать такое оружие, которое с меньшей вероятностью, чем солдаты или пилоты-люди, будет приводить к жертвам среди гражданского населения. (Здесь также важно учитывать то преимущество, что автономное оружие уменьшает необходимость солдат и пилотов-людей рисковать собственной жизнью.) Автономные системы не будут поддаваться усталости, разочарованию, истерии, страху, гневу или желанию отомстить, им не нужно "сначала стрелять, а затем задавать вопросы". Подобно тому, как управляемые боевые средства наносят меньший сопутствующий ущерб по сравнению с неуправляемыми снарядами и бомбами, можно ожидать, что разумное оружие обеспечит дальнейшее повышение точности атак. Основная практическая проблема с автономным оружием заключается в том, что оно является масштабируемым оружием массового уничтожения - в том смысле, что масштаб атаки, которую можно будет предпринять, пропорционален количеству оборудования, которое можно позволить себе развернуть. Квадрокоптер диаметром два дюйма уже способен нести смертельный заряд взрывчатки, а в обычный транспортный контейнер их можно поместить до миллиона»
Искусственный интеллект непостижимым образом вмешивается в права человека.
«Сбалансированное право человека на неприкосновенность частной жизни – это ценность, которую общество получает от совместного использования данных. Мы хотим быть в состоянии остановить террористов, не подавляя мирного инакомыслия, и мы хотим излечивать болезни, не ставя под угрозу право любого человека сохранять в тайне историю своего здоровья. Одной из ключевых практик является обезличивание (de-identiflcation): исключение из данных личной информации (такой, например, как имя и номер полиса социального страхования), благодаря чему исследователи в области медицины получают возможность использовать эти данные во имя общего блага. Проблема заключается в том, что поступившие в совместное использование обезличенные данные могут подвергаться повторной идентификации.»
Уже сейчас аудио и видео материалы перестают быть доказательством того или иного факта. В сети сейчас огромное множество нейросетей, которые без труда могу обнажить любого одетого человека. Предоставить фотографии человека, разгуливающего в общественном месте полностью обнаженным, не представляет никакого труда. Сейчас зафиксировано множество преступлений с использованием видеоматериалов на которых сгенерированный искусственным интеллектом по фотографии человек обращается с просьбой или совершает те, или иные действия в пользу преступников. В то время, как запечатленный на видео человек в реальности никаких просьб или действий не совершал. Из-за подобных эпизодов возникает вопрос: можно ли верить предъявленным записям с видеокамер. Где гарантии, что это реальная видеозапись с реальной видеокамеры, а не сгенерированное искусственным интеллектом видео?
Никто сейчас не рассматривает «восстание машин». Все терминаторы, которые начинают воевать с людьми не более, чем фантазии кинематографистов. Каждый терминатор, которого так лихо сыграл культурист Арнольд Шварценеггер, требует огромных вычислительных мощностей. Такие мощности сравнимы с трёхэтажным домом и потребуют мощность энергии, сравнимую с Енисейской гидроэлектростанцией.
Одно из самых сильных свойств искусственного интеллекта заключается в способности обучаться. Специальные математические алгоритмы позволяют накапливать опыт ситуаций или действий. Любое обучение требует критики. Критик или учитель задает рамки изучаемого алгоритма действий, а также указывает на нерациональные решения. В качестве критика может выступать как человек, так и дополнительный алгоритм. Авторы книги подробно посматривают формы машинного обучения. Это и методы обучения с учителем, и параметрические методы обучения. Статистические методы, ансамблевые методы машинного обучения. Все они сопровождаются математическими выкладками. Слои нескольких методов обучения образуют методы глубокого машинного обучения.
«Понятие глубокое обучение - охватывает широкое семейство методов машинного обучения, в которых гипотезы принимают форму сложных алгебраических схем с настраиваемой силой связей. Слово "глубокий" связано с тем фактом, что эти схемы, как правило, организованы в виде нескольких слоев, а это означает, что пути вычислений от входов до выходов включают много этапов. В настоящее время глубокое обучение является наиболее широко используемым подходом для приложений визуального распознавания объектов, машинного перевода, распознавания речи, синтеза речи и синтеза изображений; а также оно играет значительную роль в приложениях обучения с подкреплением»
Особый огромный раздел искусственного интеллекта составляет компьютерное зрение. Программа, допустим, должна не только распознать человека среди деревьев, столбов, но и проанализировать его движения и спрогнозировать движение по доставанию пистолета. Т.е машина должна знать возможные движения суставов и прочее. Машина должна уметь распознать и отличить нарисованного на плакате человека от настоящего. Естественно, я веду речь об искусственном интеллекте, применяемого в органах полиции, служб безопасности. Искусственный интеллект метеослужбы обязан распознавать и анализировать движения облаков, воздушных масс.
Огромный раздел искусственного интеллекта составляет лингвистический анализ. Восприятие звуков, сложение их в слова и осмысленные предложения, нахождения рационального решения и доведения этого решения до слушателя. Здесь тоже решаются математические задачи по алгоритмизации лингвистического звукового массива.
Невозможно перечислить все аспекты искусственного интеллекта. С каждым годом он будет окружать нас плотнее и плотнее. Важно вовремя остановиться, начертить допустимые границы, чтобы мы всегда могли быть выше искусственного интеллекта, чтобы мы управляли им, а не он нами.
О томе 1 «Решение проблем: знания и рассуждения» трёхтомника Стюарта Рассела и Питера Норвига «Искусственный интеллект. Современный подход» можно прочитать здесь
О томе 2 «Знания и рассуждения в условии неопределённости» трёхтомника Стюарта Рассела и Питера Норвига «Искусственный интеллект. Современный подход» можно прочитать здесь
Всего Вам самого доброго! Будьте счастливы! Вам понравилась статья? Поставьте, пожалуйста, 👍 и подписывайтесь на мой канал