С одной стороны, существуют обоснованные опасения по поводу потенциальной опасности сверхразума, способного превзойти человеческий интеллект и действовать непредсказуемо. Мы видим, что ИИ уже сегодня демонстрирует впечатляющие способности в определённых областях, и это заставляет задуматься о возможностях его будущего развития. Усложнение задач, которые он может решать, и скорость этого развития действительно вызывают тревогу. Однако, с другой стороны, нынешнее состояние ИИ больше напоминает несовершенного, но быстро растущего ребёнка...

Сегодня нейросети умеют писать тексты, создавать изображения, помогать программистам и даже вести беседы почти как люди. Но всё это — лишь начальный этап развития искусственного интеллекта. Учёные выделяют несколько уровней его эволюции: Почему это тревожно? Главная проблема в том, что переход от общего ИИ к сверхразуму может быть стремительным. Если машина научится сама улучшать свои алгоритмы, она будет развиваться экспоненциально. Люди могут даже не заметить, как система, вчера равная человеку, завтра станет умнее всех вместе взятых...