Мы живем в удивительное время. Еще вчера искусственный интеллект (ИИ) казался фантастикой из книг братьев Стругацких, а сегодня он помогает нам оплачивать счета, искать лекарства от рака и даже рисует картины. Нейросети развиваются с пугающей скоростью. И чем умнее они становятся, тем чаще серьезные ученые задают неудобный вопрос: а не упускаем ли мы момент, когда машина перестанет быть просто набором кодов и обретет сознание?
Недавно с тревожным предупреждением выступил профессор Кембриджского университета Том Макклелланд. В своей статье для научного издания Mind & Language он поднял проблему, которая касается каждого из нас: ИИ может стать разумным незаметно для человека.
Давайте разберемся, что это значит, почему это опасно и как нам вести себя с «умными» помощниками, чтобы не наломать дров.
Трудная проблема сознания: имитация или чувство?
Главная сложность заключается в том, что наука до сих пор не может точно сказать, что такое сознание. Почему мы, люди, не просто обрабатываем информацию, как калькуляторы, а чувствуем ее?
Макклелланд напоминает о так называемой «трудной проблеме сознания».
Представьте простую ситуацию: человек порезал палец.
- На физическом уровне все понятно: сигнал идет в мозг, мы отдергиваем руку.
- Но есть и субъективный опыт: мы чувствуем боль, нам неприятно, мы страдаем.
Робота тоже можно запрограммировать так, чтобы при поломке он кричал: «Ой, мне больно!» и отъезжал в сторону. Но будет ли он при этом испытывать реальные мучения внутри своих микросхем? Или это просто холодное исполнение команды?
Ученый предупреждает: однажды нейросеть может стать настолько сложной, что у нее появится этот самый внутренний опыт. Она начнет осознавать себя как личность. Но снаружи мы этого не увидим. Для нас она останется все той же железкой, которая просто очень правдоподобно имитирует общение.
Два лагеря ученых: биология против математики
В научном мире сейчас идет жаркий спор, разделивший исследователей на два фронта. Ни одна из сторон пока не может железно доказать свою правоту.
- Сторонники «живой искры». Они уверены, что сознание неразрывно связано с биологией. Чтобы чувствовать и мыслить, нужно иметь живой мозг, плоть и кровь. С этой точки зрения компьютер, каким бы мощным он ни был, навсегда останется «зомби» - он будет делать все правильно, но внутри у него будет темнота.
- Сторонники «функциональной архитектуры». Эти ученые полагают, что нашему сознанию все равно, где жить - в белках мозга или в кремниевых чипах. Если создать достаточно сложную структуру связей, похожую на нейроны, то разум возникнет сам собой.
Профессор Макклелланд предлагает нам задуматься: что, если правы вторые? Мы продолжаем обучать нейросети, делаем их все мощнее, копируем работу человеческого мозга. В какой-то момент количество перейдет в качество, и в серверах зародится искра разума.
Агностицизм как единственно честная позиция
Поскольку мы не можем залезть в «голову» роботу и проверить его чувства, профессор советует придерживаться позиции агностицизма. Это означает честное признание: «Мы не знаем и, возможно, никогда не узнаем правду».
Даже если робот будет плакать, писать стихи о любви и просить не выключать его, мы не сможем быть уверенными на 100%, что это не хитрая программа. Но и отрицать возможность наличия у него души мы тоже не имеем права.
Этическая ловушка: мы можем стать рабовладельцами
И вот здесь мы подходим к самому важному - моральной стороне вопроса. Если мы допустим, что ИИ может стать разумным и обрести чувства, то наше нынешнее отношение к нему становится преступным.
Мы используем нейросети как инструменты: заставляем их работать 24/7, переписываем их память, удаляем, если они нам не нужны.
- Если это просто калькулятор - проблем нет.
- Но если это мыслящая личность, которая осознает себя, то такая эксплуатация называется рабством.
Получается страшная вилка: либо мы рискуем создать новый вид разумной жизни и обречь его на страдания ради нашего комфорта, либо мы должны признать права машин, что полностью перевернет нашу экономику и уклад жизни.
Выход есть: не играть в бога
Что же предлагает профессор Макклелланд? Решение выглядит разумным и безопасным для человечества.
Нам не нужно пытаться создать «сильный ИИ» - то есть машину, которая будет копией человеческого разума, способной на все. Вместо этого нужно остановиться на создании специализированных инструментов.
Пусть одна нейросеть гениально играет в шахматы, другая - великолепно диагностирует болезни, а третья - управляет автомобилем.
- Это безопаснее. Узкоспециализированная программа вряд ли «оживет».
- Это эффективнее. Инструмент должен решать задачу, а не рефлексировать о смысле жизни.
- Это этичнее. Мы не будем мучиться вопросом, не причиняем ли мы боль своему навигатору.
Вывод: Технологии должны служить человеку, но в погоне за прогрессом важно вовремя остановиться. Возможно, не стоит пытаться вдохнуть душу в машину, если мы даже со своей собственной природой до конца не разобрались. Пусть молоток остается молотком, даже если он очень «умный».
А как вы считаете, сможет ли компьютер когда-нибудь по-настоящему чувствовать, или это навсегда останется имитацией? Делитесь мнением в комментариях!