Почти весь день в свободное время читала этот огромнейший лонгрид про революцию искусственного интеллекта https://interpreted

Почти весь день в свободное время читала этот огромнейший лонгрид про революцию искусственного интеллекта https://interpreted.dirty.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922/

По хорошему такое надо читать в свободный от всего выходной, залпом и не отвлекаясь ни на что. Мне очень понравилось, изложено красиво, а оригинал, стало быть, стилистически идеален. Почти обо всем я уже читала либо в книгах, либо в отдельных статьях, но здесь очень мощный и грамотный свод всей имеющейся информации о будущем и ИИ.

Кратко хочется сказать о следующем. Мы привыкли мыслить линейно и по личному опыту, а надо экспоненциально и глобально, только тогда мы сможем хотя бы приблизительно представить, что будет происходить с появлением искусственного интеллекта.

О самом ИИ, как сущности, автор поясняет: «Робот — это всего лишь оболочка ИИ, которая иногда подражает человеческому образу, но ИИ — это только компьютер внутри робота. ИИ – это мозг, а робот — это тело, если оно вообще есть».

Далее автор делит ИИ на три последовательных вида (один за другим по сложности и вероятности возникновения по мере развития предыдущего):

1. Слабый Искусственный Интеллект (ANI) — это такой ИИ, который специализируется в одной области. Это то, что нас окружает сейчас: бытовые приборы с управлением, гаджеты, софты на компьютерах и умные дома.

2. Сильный Искусственный Интеллект (AGI), также известный как ИИ человеческого уровня, — это компьютер, способный решить любую умственную задачу, которую способен решить человек. Создать AGI намного сложнее, чем ANI. Этому виду ИИ автор посвящает много своих рассуждений. Потому что с первым видом мы хорошо знакомы, а этот только начинаем создавать и здесь кроется великое множество нюансов, включая сингулярность, которая слишком быстро приведёт нас к третьему виду.

3. Искусственный сверхинтеллект (ASI). Оксфордский философ и ведущий мыслитель в области ИИ Ник Бостром определяет ASI как «интеллект, который намного умнее лучших человеческих умов практически в любой сфере, в том числе научного творчества и социальных навыков». А вот об этом уже непонятно, что говорить, потому что наш разум (даже коллективный) не в состоянии постичь, что будет делать такой сверхинтеллект.

Достаточно в тексте и рассуждений о дружественном ИИ, хотя меня здесь смущает один момент. Автор говорит о том, что ИИ не может быть «злым». Если он и примет решение уничтожить человечество, то только, чтобы выполнить какую-то конкретную программу, которую в него заложили сами же люди с бесконечным выполнением до лучшего результата. То есть не обязательно потому, что мы будем для ИИ бесполезны, наоборот, просто чтобы устранить препятствие на пути к совершенству.

В частности, в тексте прекрасная история про подписи открыток, ради чего ИИ просит людей дать ей выйти в интернет «на пару минут», а потом случается ядерный апокалипсис, покорение космоса с целью подписывать красивым почерком открыточки. Так вот. Исходя из всего этого, можно сделать вывод, что ИИ вообще не может быть свойственно дружелюбие/недружелюбие. В программе будет вбито что-то вроде «всем счастья даром», которое, чем точнее, тем лучше ИИ справится с этой задачей. Иначе поймёт ее по-своему и смешает все наши мозги в общий мозг, вырабатывающий один допамин на всех 🤓

Как всегда после подобного чтива больше вопросов, чем ответов, но жить становится всё интересней.