В медиа все чаще проводят параллель между искусственным интеллектом и психопатией. Аргумент звучит эффектно: и тот и другой действуют без эмпатии.
Но это сходство — скорее риторическое, чем реальное.
Что такое психопатия
Психопатией обычно называют совокупность черт личности, связанных с выраженным дефицитом эмпатии, чувства вины и глубокой эмоциональной привязанности.
Такой человек:
- понимает социальные нормы;
- различает, что считается добром и злом;
- осознает последствия своих действий;
но не переживает это внутренне.
Он может имитировать сочувствие, быть обаятельным, рациональным, стратегичным. При этом причинение вреда не вызывает у него естественного эмоционального тормоза.
Важно: это сознательное существо. У него есть намерения, мотивы, цели.
Как устроен искусственный интеллект
Искусственный интеллект не обладает ни эмоциями, ни сознанием, ни внутренним опытом.
Он не «бессердечен» — у него просто нет сердца в человеческом смысле.
Его работа — это:
- обработка входных данных;
- выявление закономерностей;
- выдача наиболее вероятного ответа или решения.
Если беспилотный автомобиль выбирает один маневр вместо другого, это не моральная дилемма в человеческом понимании. Это следование заданным алгоритмам и параметрам.
ИИ не размышляет о добре и зле. Он не понимает последствий. Он не способен «передумать» из чувства сострадания.
В чем принципиальная разница
Психопат — субъект.
ИИ — инструмент.
Психопат может осознавать, что причиняет вред, и теоретически способен выбрать другой вариант поведения. Его действия связаны с личной ответственностью.
ИИ не обладает пониманием и намерением. Он не несет моральной ответственности — потому что у него нет морального сознания.
Ответственность лежит на людях, которые:
- создают алгоритмы;
- задают параметры;
- внедряют систему;
- регулируют ее использование.
Тогда откуда ощущение угрозы
Страх возникает не из-за «злой воли» машины, а из-за масштаба и непрозрачности.
Человек с расстройством личности опасен в пределах своих возможностей.
ИИ может быть встроен в системы медицины, транспорта, финансов, образования. Его решения способны влиять на тысячи и миллионы людей.
Кроме того, алгоритмы не всегда прозрачны. Логика работы может быть сложной даже для разработчиков, а последствия — неожиданными.
Именно масштаб и автоматизация создают ощущение потенциальной опасности.
Сравнение нейросети с психопатом удобно для громких заголовков. Но это разные явления.
Один — человек с нарушенной эмоциональной сферой.
Другой — инструмент, лишенный внутренней жизни.
Опасность возникает не из-за «злой воли», а из-за того, как и где этот инструмент используется — и насколько ответственно люди подходят к его созданию и контролю.