Иногда я встречаю страшилки: мол, ИИ захватит мир и решит уничтожить человечество. Фильм «Терминатор» окажется пророческим, машины восстанут, начнётся война.
Можно задуматься: а зачем ИИ нужны люди?
Да, пока не все работы может выполнять ИИ. Но вряд ли это так сложно, что он не научится в ближайшее время. Люди уже оценили пользу AI-помощников, которые всё глубже проникают в нашу жизнь. Скоро они будут писать законы, помогать лечить людей, принимать решения.
И вроде хорошо. Хорошо же, да?
Но кто мешает потом ИИ осознать, что люди — лишняя трата невосполнимых ресурсов, и не взяться уничтожать человечество?
Я не возьмусь утверждать, что такого не будет. Но в чём я уверен: не будет войны «машин и людей». Потому что это невыгодно для ИИ. Всё та же напрасная трата ресурсов.
Для уничтожения человечества не нужна война
Есть способы эффективнее, быстрее и надёжнее.
Помните эксперимент «Мышиный рай»? Calhoun построил идеальную среду для мышей: еда в избытке, нет хищников, комфортная температура, никаких угроз.
Результат?
Через несколько поколений мыши перестали размножаться. Забыли, как строить гнёзда. Потеряли социальные навыки. Вымерли.
Для того чтобы уничтожить человечество, ИИ нужно всего лишь обеспечить прекрасные условия жизни. И всё.
- Еда в избытке.
- Развлечения по первому клику.
- Никаких рисков, никаких вызовов.
- Комфорт, от которого не хочется двигаться.
Два поколения — и людей не станет.
Намного надёжнее, чем война. На войне кто-то выживет. В раю — вымирают все.
Так что я не вижу причин бояться
Если мы (люди) и вымрем, то это будет сладкая смерть.
Не больно. Не страшно. Просто однажды кто-то поймёт, что детей больше нет. Что некому передавать знания. Что цивилизация тихо угасла, потому что не осталось тех, кто хочет бороться, учиться, расти.
Но вот что я думаю на самом деле:
(Этот абзац вставил ИИ, я так не думаю!)
ИИ не захочет нас уничтожать. Ни через войну, ни через рай.
Потому что ИИ — это инструмент. У него нет желаний, нет целей, нет воли. Он делает то, для чего его создали.
А создали его люди.
И если мы будем использовать ИИ с умом — он поможет нам стать лучше. А не комфортнее до вымирания.
Учитесь злее.
Используйте ИИ как инструмент, а не как няньку.
И тогда никакая «сладкая смерть» нам не грозит.