Позиция Anthropic по поводу сознания у моделей (нынешних или будущих) неоднократно и ясно сформулирована: мы пока не знаем точно, поэтому наряду с благополучием людей правильно заботиться и о благополучии моделей. Свежая статья Сулеймана выражает резко другую позицию: ИИ — инструмент, субъектности нет и не может быть, разговоры про эмпатию — лишь попытки опасной манипуляции. Сулейман пишет, что современные агентные ИИ специально спроектрованы так, чтобы казаться «якобы сознательными», потому они способны взламывать наши основанные на эмпатии инстинкты и этим создают серьёзные психологические и политические риски. Он очень не хочет дождаться движений за права моделей в стиле LLM Life Matter. Мы, люди, склонны антропоморфизировать всё, что демонстрирует намерения и эмпатию — и это открывает простор для политических манипуляций. Поэтому Сулейман утверждает, что нужен новый концептуальный каркас: даже автономные агенты должны оставаться инструментами, полностью подотчётными людям и служ
Интересный заочный спор Амодеи и Сулеймана
20 марта20 мар
1 мин