Ну и тема из предыдущего поста под другим углом:)

Если радеть о человечестве, то надо как-то регулировать в первую очередь не столько развитие самого ChatGPT (что предлагают подписанты), сколько возникновение платформы нового типа. Платформы — они всегда про концентрацию; часто — на грани монополизации, мы это уже в хайтеке много раз проходили, и все техногиганты, с которыми сейчас пытаются разобраться антимонопольные регуляторы, отрастили себе толстенные платформы.

А тут новичок, которому полгода не исполнилось от роду, уже трансформируется в платформу путем подключения плагинов, и конкурента ему пока не видно, а мощь и размах платформы уже завораживают. Скромный по названию ChatGPT превращается из просто крутого чатика в универсального автономного цифрового агента — это сильно другая сущность. Going from text generation to taking actions on a person’s behalf erodes an air gap that has so far prevented language models from taking actions.

Очень хорошая метафора про каток есть в статье:

“There’s some distress in the startup ecosystem among companies that were picking up pennies in front of the OpenAI steamroller” 🙂 У них есть основания и для стресса, и для депрессии.

А с общетеоретической точки зрения, сложность системы благодаря плагинам возрастает куда сильнее, чем благодаря утолщению самой модели. Так что та самая эмерджентность, которой алармисты боятся, получает куда больше шансов возникнуть:)

Если уж хочется страшилок на ночь, эту статью почитайте, а не конъюнктурные письма Маска сотоварищи :))

1 минута

30 марта 2023