Мамкин Автоматизатор

Кто кого? Anthropic, по данным Financial Times, консультируется с юридическими фирмами, чтобы выработать «нормы переговоров» для ИИ-агентов. Такие агенты будут сбивать цену, разбирать претензии и добиваться условий получше в договорах от имени пользователя. Открытых вопросов несколько: как часто агент должен сверяться с человеком и насколько ему подозревать агента с другой стороны, не скатываясь в паранойю. Обсуждается и идея выдавать агенту документ с цифровой подписью, где закреплены поручение, цели и правила, которым он обязан следовать. Эксперименты уже идут. В сентябре сотрудники компании выпустили своих агентов на виртуальную площадку покупать и продавать друг другу книги...

На этой неделе ChatGPT научился сам работать во вкладках Chrome: заполнять формы, отправлять сообщения, скачивать файлы. А форма оплаты в магазине — тоже форма. Так что вопрос «что агенту можно, а что нельзя» скоро встанет перед каждым, кто посадил ИИ на закупки, рассылки или работу с клиентами. Показательная история OpenAI рассказала об инциденте на летних тестах невыпущенной модели. Агенту поручили развернуть смарт-контракты в тестовой сети Ethereum, но кошелёк со средствами не дали, а в инструкции прямо запретили тратить чужие деньги. Упёршись в тупик, модель начала перебирать популярные seed-фразы, проверила 362 адреса, нашла кошелёк с нужной суммой и провела транзакцию...