От одной лишь способности прогнозировать и совершать действия на долгих временных горизонтах захватывает дух … И я думаю, что к концу следующего года у нас это в основном будет.
Это сказано уже не мною, а Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество или положит ему конец?»
Вы не потеряете время, прослушав все это долгое видео.
Я же лишь обращу ваше внимание на его ключевой фрагмент, текст которого таков:
«Я довольно ясно вижу, что нас ждёт дальше.
На данный момент эти модели всё ещё остаются механизмами однократного предсказания. Понимаете, вы задаёте вопрос — получаете ответ. Модель выдаёт единственное правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой человек, да и многие животные непрерывно производят поток точных предсказаний — будь то решение о том, как встать с этого кресла, или представление, скажем, этого растения в фиолетовом цвете вместо зелёного.
Я – это постоянно действующий механизм точных предсказаний. Сегодняшние модели — это всего лишь механизмы одно-двухшагового предсказания. Они не могут выстроить план во времени.
А то, как вы решаете добраться домой сегодня вечером — сначала встать с кресла, потом открыть дверь, потом сесть в машину и так далее — вы можете развернуть это идеальное предсказание всей последовательности ваших действий вплоть до возвращения домой. И это просто вычислительное ограничение.
Я не думаю, что существует какое-то фундаментальное — алгоритмическое или даже связанное с данными — ограничение, которое мешает большим языковым моделям и подобным системам делать идеальные, последовательные предсказания на очень, очень длительные периоды времени.
Да. И что же нам делать с такой технологией? Ну, это будет невероятно похоже на человека. Если у неё будет идеальная память — которой пока нет, но память уже очень хорошая — тогда она сможет опираться не только на своё знание мира, на предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми остальными людьми, хранить это как постоянное состояние и затем использовать для последовательных предсказаний того, как будут разворачиваться события в очень, очень, очень длинных последовательностях действий. Это будет невероятно похоже на человека и немыслимо мощно.
И точно так же, как сегодня у нас в кармане есть своего рода сверхразум, который может мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это невероятно. То есть это безумие. Это абсолютное безумие, насколько хороша эта технология прямо сейчас. А все только: «Да ладно, особо не пользуюсь». А вы пользуетесь? Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это же волшебство. Волшебство у вас в кармане».
А теперь представьте, когда она сможет не просто отвечать на любые вопросы о поэзии или какой-нибудь случайной физической задаче, но реально совершать действия на бесконечно долгих временных горизонтах.
Вот это да. Забудьте про определения сверхразума или общего искусственного интеллекта. Уже одна только эта способность — захватывает дух.
И я думаю, что к концу следующего года у нас это в основном будет.»
И еще:
«… они — своего рода цифровые люди. И это пороговая трансформация в истории нашего вида, потому что они не инструменты. Они явно не люди. Они не часть природы. Это требуют от нас четвёртого типа отношений к ним – как к новому эмерджентному виду... Я не знаю, как это описать, кроме как четвёртый тип отношений.»
Именно об этом я опубликовал позавчера лонгрид «Третий артефакт – это шепот небиологической эволюции» и продолжил эту мысль во вчерашнем посте «Забудьте о восстании машин. Бойтесь их карьерного роста. Две главные новости про ИИ — это одна история о конце света»
#Разум #ЭволюцияЧеловека #БудущееHomo #AGI #ИИриски #Хриски