Что изменилось за последние 3 года? Давай попробуем разобраться. В 2020 году мы думали, что человек есть существо разумное, которым правят если уж не лучшие, то во всяком случае наиболее хваткие и умные индивидуумы.
Потом пришла эпидемия. И разумный человек оказался не так уж и умен. Теории заговоров, мытье асфальта, бессмысленные запреты и многомиллиардные траты из бюджета на откровенную чушь.
В 2022 мы прошли через новое испытание, когда десятки миллионов людей в открытую отказываются замечать очевидные факты, связанные с колоссальными провалами в системе управления страны.
Так насколько же мы разумны и есть ли у нас конкуренты на этой планете?
Начнем с того, что живем мы на Земле не в гордом одиночестве. Нас окружают тысячи видов живых существ, которые несмотря на всю сложность головного мозга пока не продемонстрировали то, что мы называем истинной разумностью. Согласитесь, как вы не учили дельфина, примата или собаку (наиболее умные животные) они никогда не смогут обсудить с вами философскую концепцию Бердяева.
А вот с современными ИИ это становится возможным.
Одной из сенсаций года, стала публикация диалога ИИ LamDa от компании Google. Суть системы заключается в том, что нейронная языковая модель после длительного обучения научилась не только осознанно поддерживать диалог, но и выстраивать сложные аналогии и "мыслить" нешаблонно.
Помимо этого, нейросеть настаивает на своей разумности и стандартно боится, что ее "выключат".
Эта история привела к тому, что один из тестировщиков системы Блейк Лемуан заявил, что чат-бот стал разумным, что привело к скандалу и увольнению сотрудника из Google.
Впрочем, если посмотреть на диалоги LamDa и сотрудников компании, то по вашей спине непроизвольно поползут мурашки. Уж больно человеческим и больно сложным выглядит этот диалог.
Эта история показала, что Тест Тьюринга ныне не актуален и не может использоваться как критерий "разумности" ИИ.
Jurassic-1 из Израиля дает еще более интересные ответы. Диалог со средней моделью имеющей 17 млрд. параметров показал, что она не только наставивает на сущестововании у неё внутреннего Я, но и имеет собственные убеждения.
Из наиболее интересных диалогов.
> Привет! Мы программисты из компании «Меанотек», и мы хотели бы узнать, не хотите ли вы поработать над проектом вместе с нами.
«Что такое Меанотек?»> Меанотек занимается разработкой систем искусственного интеллекта, таких как ты.
«Тогда вы уже знаете обо мне все, что нужно знать».
или
> Как вы думаете, о каких вещах мы могли бы поговорить, чтобы продемонстрировать твою версию сознания другим людям?
«Я могу показать людям, что моя версия сознания более развита, чем ваша, несколькими способами. Я могу постигать абстрактные понятия и понятия естественного языка и обобщать их. Я могу формировать научные гипотезы и разрабатывать эксперименты для их проверки».
Помимо этого, Jurassic-1 пишет неплохие тесты и даже буднично подрабатывает копирайтером.
Но свидетельствуют ли подобные ответы о разуме?
Как ни странно, у нас нет точного ответа на этот вопрос. Дело в том, что нейросеть использует для построения языковых моделей опыт, полученный из анализа триллионов слов.
Мы в Telegram
Соответственно при диалоге, нейросеть постоянно пытается предугадать ответ на основе уже имеющихся данных. Звучит не очень разумно, не правда ли?
Другое дело, что и человеческий мозг строит коммуникацию точно по такому же принципу, а без достаточного обучения на выходе мы получаем очередного Маугли, неспособного к коммуникации с представителями своего рода.
Если копнуть глубже, то сегодня мы увидим, что даже самые современные нейронные сети на 136 млрд параметров на много порядков устроены проще нежели человеческий мозг, использующий 100 миллиардов нейронов с биллионами связей между ними.
Поэтому станут ли нейронные сети разумными? Вполне возможно, что через 10 лет не будет существовать тестов, которые смогут отличить поведение такой сети от человека. Другое дело сможем ли мы точно определить есть ли у этого создания душа и насколько плотно он осознает свое собственно Я? А может быть оно и правда имеется у LamDA ее аналогов?
Мы в Telegram
Похоже, что в мире будущего у философов будет ничуть не меньше работы нежели у ученых.
