Сегодня у меня пост в формате эссе. Это значит, что я не пользуюсь дополнительными источниками, не привожу ссылки и все свои аргументы беру из памяти. Я вычитываю эссе после публикации, но только на предмет выявления грамматических или стилистических ошибок и не проверяю факты.
Я не ограничиваю себя по времени, но стараюсь писать короче.
Для меня это способ потренировать мозг: поработать им, не полагаясь на внешние источники. Для вас это значит, что здесь описано исключительно моё мнение, и не нужно принимать его за научный консенсус или истину в последней инстанции.
Структура эссе следующая:
· постановка вопроса, на который я ищу ответ, и краткое описание моей позиции;
· два аргумента против моей позиции;
· два аргумента в пользу моей позиции;
· вывод.
Вопрос: «Нужно ли вкладывать время и силы в развитие этики искусственного интеллекта? Если мы никогда не сможем создать ИИ, превосходящий человеческий, то какой в этом смысл? А если сможем, то будут ли применимы наши сегодняшние рассуждения?»
Вопрос о целесообразности этических рассуждений поднимает каждая новая технология, что понятно: люди хотят знать не только о возможностях, но и об угрозах. Понимать, что всех нас ждёт в будущем и туда ли мы вообще движемся, куда планировали. Я считаю, что обсуждение этической стороны принципиально важно для любой технологии, которая влияет на человеческие жизни, а ИИ как раз к таковым относится.
Противники этой идеи часто говорят о том, что вопросы этики слишком изменчивы и субъективны. Что было морально и правильно для одной эпохи, то будет неприемлемо для другой. Взять, скажем, рабство: одни люди веками использовали других людей как товар и не терзались сомнениями (в целом – кто-то терзался, возможно). Теперь это неприемлемая практика, с которой активно ведут борьбу многие государства в мире. Пример с рабством может показаться неубедительным из-за своей однозначности, но вот ещё один: допустимо ли отвесить сальный комплимент женщине на улице? Один ответит: «Конечно нет», – а другой: «Это же комплимент, женщина должна быть рада вниманию.» Что из этого мы хотим вложить в ИИ и как быть с тем, чья позиция не была выбрана?
Кроме того, подобные рассуждения тормозят прогресс. Вместо того, чтобы совершенствовать разработку, учёные вынуждены обивать пороги этических комитетов, которые будут оценивать, не пострадает ли кто в ходе проведения экспериментов. Да, многие опыты прошлого сегодня выглядят бесчеловечными, но они продвинули науку вперёд и привели к тому, что у нас больше инструментов, чем было у наших предков. Ради прогресса будущего можно и нужно поступиться комфортом настоящего: развитие без единой жертвы технически невозможно.
С другой стороны, когда-то и рабство было спорным вопросом. Были люди, которые говорили: «Так устроен наш мир», – и люди, которые отвечали: «Да, и это надо менять». Перед нами не стоит задача создать идеальный общечеловеческий этический кодекс: в первую очередь, неэтично навязывать другим людям свои представления о прекрасном. Но сама дискуссия вокруг того, что морально и аморально, что опасно и безопасно, важна. В рамках этой дискуссии мы научаемся слышать голоса друг друга и узнавать, что незначительные нюансы для нас могут кардинально менять жизнь других людей. Сама идея этичного подхода не состоит в том, чтобы контроль над развитием ИИ получили «самые праведные», но в том, чтобы никто не получил полного контроля. Чтобы людям пришлось слушать, слышать и договариваться.
И что для одного «поступиться комфортом», то для другого вопрос жизни и смерти. Если ставить в центр картины мира человека, то не грех и притормозить поезд прогресса ради его благополучия. Не остановить или развернуть, а именно слегка придерживать, чтобы не катиться прям по головам. Эксперименты можно проводить настолько безопасно, насколько это возможно в данный момент, оценивать риски заранее и совершенствовать инструменты оценки. Чем сложнее и мощнее новые технологии, тем более осторожно нужно с ними обращаться. Ужасные вещи, к сожалению, будут продолжать происходить, с ИИ или без. Но мы можем приложить сознательные усилия к тому, чтобы не творить новые ужасные вещи в погоне за эфемерным прогрессом и общим благом, которые, опять же, для всех будут определяться по-своему.
Таким образом, я всё же убеждена, что дискуссии об этике и ответственном подходе к ИИ важны. Даже если мы не считаем, что ИИ когда-то превзойдёт человека или хотя бы сравняется с ним. Или если мы убеждены, что вот-вот достигнем этого состояния, а философские дискуссии отнимают ценное время. Технологии создают люди для людей, и без долгих, занудных, неопрятных дискуссий, в которых оппоненты кидаются друг в друга стульями*, не обойтись. Иначе кому, кроме нас самих будут нужны результаты нашего труда?
---------------------------------------------------------------------------------------------
*Метафорически!
P.S.: заходите ко мне в телеграм, там больше постов и про ИИ, и про этику.