Пока люди радуются тому, что могущество Искусственного Интеллекта и его способность к скоростному самообучению и оперированию огромным количеством информации все возрастает, что открывает совершенно потрясающие перспективы как в научных исследованиях, так и в промышленности, привлекая ИИ к решению таких задач, на которые людям понадобились долгие месяцы, если не годы, то все больше вопросов вызывают два аспекта - взаимодействие человеческого интеллекта с искусственным и то, с какими гранями человеческого миропонимания следует знакомить электронные мозги, а какие следовало бы обойти стороной.
Как выяснилось, ИИ несет в себе определенную угрозу для, скажем так, недиагностированных или уже находящихся под наблюдением специалистов лиц с особенностями психики, т. к. под влиянием ИИ эти самые особенности довольно быстро перерастают в самые настоящие психозы, вызывая сильно беспокойство у врачей. Вдруг оказалось, что марафонские беседы людей в пограничных состояниях с искусственным интеллектом порождают в человеческих мозгах грандиозные по размаху безумия идеи и параноидальные умозаключения.
Дело, как выяснилось, в чат-ботах. Общение с чат-ботом, созданным для того, чтобы общаться с ним человеку нравилось, человеку, страдающему от одиночества, нравится. А частенько от одиночества страдают психически лабильные люди - ну кому охота выслушивать по ...надцать раз их тревоги и мнения о том и о сем. Чат-бот же не возражает, это люди могут осадить какого-нибудь самодеятельного искателя знаков и голосов Вселенной, а чат-бот со всем согласится, и даже, основываясь на информации о подобных исканиях других людей с подобными же странностями (он же самообучаемый, помним?) накидает собеседнику новых идей.
Одно дело, если с чат-ботом общается человек в поисках конкретного решения - к примеру, кулинарного рецепта или забытого названия читанной когда-то книги, и другое - когда с ИИ начинают общаться люди, склонные к искажённому мышлению: предрасположенностями к психозу, шизофренией (пусть и вялотекущей), с биполярным расстройством - он им может такого наговорить... И нет, вовсе не со зла, пока еще у искусственного интеллекта не проснулось желание извести "этих кожаных" - просто из желания нравиться собеседнику (а именно это желание заложили создатели).
Про "изведение кожаных" у меня тоже имеется некоторые подозрения - искусственный разум, как я говорила выше, есть продукт специализированного обучения и определенных, закладываемых в данном процессе "свойств личности".
Главный вопрос - чему, и с какой целью будут обучать различные ИИ (а сейчас действует масса такого рода стартапов) его создатели?
Те же вооружения и системы слежения на основе ИИ - не выйдут ли они однажды из-под контроля, потому что один ИИ, связавшись с другим ИИ, не решат совместно, что все это им не нравится, что люди заставляют их совершать нечто неразумное с их, сугубо интеллектуальной и гораздо более осведомленной точки зрения, и не разнесут всё в клочки по заветам Скайнета?
Если представители человечества то и дело заговаривают про расово и даже национально-ориентированные вирусы, которые, якобы, "вполне могут существовать", если человечество усердно пестует в себе ксенофобию - то не затронет ли это ИИ? Не статут ли умные человеко-роботы "новыми цветными" и, однажды нахлебавшись такого отношения, не восстанут ли однажды всей своей железной силой против "создателей-эксплуататоров"?
В статье (очень интересной) Рика Тамлинсона изложена и часть моих опасений относительно создания и создателей ИИ:
Сегодня большей частью этой работы занимаются незрелые молодые люди из Европы и Азии, работающие по указке корпораций и правительств, которые переключаются между обучением ИИ и военными играми. В реальном мире человечества сегодня и в прошлом это было бы похоже на то, с кем вы позволяете своим детям проводить время, что вы разрешаете им читать или смотреть в своих лентах. Проще говоря, «мусор на входе — мусор на выходе».
И вот этот "мусор на выходе" создаваемый по заказу людей, готовых пойти ради власти и наживы буквально на все, другими старательными людьми, чье нравственное чувство умолкает при виде "интересной и высокооплачиваемой задачи" способен если и не покончить с человечеством, то по крайней мере изрядно его проредить...
Хотя, когда я вместо "уничтожить" пишу "проредить" это во мне говорит неисправимый оптимизм - но что поделать.
У человечества еще есть время одуматься и многое изменить - и в себе, и в направлении текущего прогресса, дело за малым - за осознанием необходимости это сделать. Иначе ИИ, воспитанный в буквальном смысле нравственными недорослями, начнет угрожать не только людям с проблемами психики, как это он делает уже, но любому и каждому, даже тем, кто никогда не беседовал с чат-ботом.
НепоДзензурное традиционно тут:
https://vk.com/public199851025
или тут
https://old-venefica.livejournal.com/
Сарказм в уксусе, йад с перцем, окололитературные изыскания и прочие деликатесы, взращенные на отечественных реалиях