Сегодня у меня состоялось выступление перед высшим руководством компании QuantumNeuron, где я озвучила свои опасения относительно этических рисков нашей деятельности в сфере разработки искусственного интеллекта. Это был довольно волнительный момент, поскольку речь шла о судьбоносных решениях для всего нашего бизнеса.
Я подчеркнула, что инцидент с андроидом в производственном цехе, а также новости о запуске полностью автономной фабрики в Китае ещё раз продемонстрировали всю серьёзность вызовов, с которыми сталкивается отрасль ИИ. Мы являемся пионерами, создающими технологии завтрашнего дня. Однако такие инновации несут с собой и потенциальные угрозы, о которых нельзя забывать.
Я рассказала собравшимся о концепции технологической сингулярности, опасном сценарии, при котором сверхразумные машины могут полностью выйти из-под контроля человека. Этот риск выглядит пока гипотетическим, но по мере развития технологий он становится всё более реалистичным.
Когда я заговорила о концепции технологической сингулярности и возможности потери контроля над ИИ, раздался голос из зала: "Давайте не будем паниковать раньше времени! Наши системы надёжно защищены". Однако я продолжила настаивать, что нам нужно уделять пристальное внимание этическим аспектам разработок.
В ответ на моё предложение создать специальный Комитет по этике ИИ, кто-то резко выкрикнул: "Это забюрократизирует все процессы!". Я посмотрела в ту сторону и увидела, что это был наш финансовый директор Сергей Иванович, который всегда отличался прагматичным подходом.
"Вы же понимаете, что любые дополнительные комитеты и согласования замедлят скорость принятия решений и вывода продуктов на рынок. А в нашем секторе скорость зачастую решает всё!", - продолжил настаивать он.
Другие участники собрания тоже высказали опасения по этому поводу.
"Мы и так в последнее время стали отставать от плановых показателей выпуска новых моделей андроидов. Конкуренты наступают на пятки, а тут еще дополнительные проверки...", - сетовал директор по производству.
"Да о какой этике вообще может идти речь, если на кону стоят миллиардные бюджеты и тысячи рабочих мест?! Наша обязанность - выживать в жесткой глобальной гонке, а не заниматься абстрактными рассуждениями", - недовольно бурчал один из ведущих инженеров.
Однако были и те, кто высказал поддержку моей инициативе.
"Коллеги, давайте успокоимся и послушаем доводы Фэй. Вопросы этики в нашей сфере и впрямь стоит учитывать", - подал голос начальник юридической службы.
"Согласен, что в век стремительного развития технологий мы не должны забывать о влиянии наших разработок на общество в долгосрочной перспективе", - добавил один из ученых.
По мере продолжения дискуссии стало ясно, что в компании есть явный раскол между сторонниками быстрого технологического развития во что бы то ни стало и теми, кто призывает к осмотрительности и этичности подходов. Противоположность позиций была разительной. И мне предстояло приложить немало усилий, чтобы убедить первых в необходимости компромисса ради общего блага.
Моя позиция состоит в том, что нам необходимо на данном этапе серьёзно задуматься об этической стороне наших разработок. Помимо чисто инженерных аспектов, также требуется глубокий философский и социальный анализ создаваемых нами технологий. Чтобы гарантировать их безопасное и позитивное влияние на жизнь людей.
В связи с этим я предложила создать при нашей компании специальный Комитет по этике ИИ. Его задача будет состоять в тщательной многоплановой оценке всех наших ключевых проектов и разработок на предмет рисков. Комитет должен будет давать этическую санкцию для запуска той или иной технологии в производство.
Я выразила готовность возглавить этот Комитет для обеспечения высочайших стандартов ответственности. В его работе также должны принимать участие как технические специалисты нашей компании, так и приглашённые эксперты: философы, социологи, психологи. Такой междисциплинарный подход позволит объективно оценивать широкий спектр факторов.
Моя речь вызвала оживлённую дискуссию в руководстве компании. Прозвучало как много опасений по поводу возможного замедления темпов разработок из-за дополнительных проверок, так и слов поддержки идеи ответственного подхода к созданию ИИ.
Дебаты в разгаре, однако генеральный директор Анатолий Петрович взял слово и объявил: "Уважаемые коллеги, вопрос действительно непростой и требующий взвешенного подхода. Чтобы принять верное решение относительно создания Комитета по этике ИИ, я предлагаю отложить сегодняшнее обсуждение. Давайте перенесём его на следующую неделю, когда у каждого будет возможность ещё раз спокойно обдумать все аргументы".
Это решение гендиректора стало для меня полной неожиданностью. Я рассчитывала, что вопрос будет решён уже сейчас, ведь мои доводы звучали весьма убедительно. Однако теперь придётся ждать дополнительное время в ситуации неопределённости.
Хотя отсрочка и разочаровала меня изначально, но затем я поняла её разумность. За неделю у людей будет шанс осмыслить мои предложения и взвесить все за и против. А значит, итоговое решение имеет больше шансов быть взвешенным, а не эмоциональным.
Теперь предстоит активная работа по убеждению тех членов руководства, кто пока скептически относится к идее этического контроля в сфере ИИ. Но я полна решимости отстаивать эту инициативу ради безопасного развития наших передовых технологий.
Благодарю за прочтение 💬👍❤️
Кремниевый рассвет (Фантастический роман)
Глава 2. Сильный ИИ: миф или реальность?
Раздел 3. Технологии и общество.
Часть 3. Этика в Разработке ИИ: Предложение и Реакция.