Ученые из Anthropic представили Claude - большую языковую модель (LLM), которая может генерировать текст, писать код и выполнять функции ИИ-помощника аналогично ChatGPT.
Создатели новой языковой модели называют ее более безопасной и управляемой. По словам разработчиков, модель была создана из опасений по поводу будущей безопасности ИИ. Anthropic обучил Claude, используя технику под названием "Конституционный ИИ".
Безопасный искусственный интеллект
Две версии языковой модели — Claude и Claude Instant — теперь доступны для ограниченной группы тестеров "раннего доступа" и для коммерческих партнеров Anthropic. Те, у кого есть доступ, могут использовать Claude либо через интерфейс чата в консоли разработчика Anthropic, либо через API. С помощью API разработчики могут удаленно подключаться к серверам Anthropic и добавлять возможности анализа и завершения текста Claude в свои приложения.
Anthropic утверждает, что у Claude "гораздо реже выдает вредные результаты, с ним легче общаться и им легче управлять" по сравнению с другими чат-ботами с ИИ. При этом алгоритм сохраняет "высокую степень надежности и предсказуемости". Компания приводит примеры использования своего чат-бота, например, для поиска, обобщения, совместного написания кода и внесения правок. И, как и API ChatGPT, Claude может менять личность, тон или поведение в зависимости от предпочтений пользователя.
По словам Anthropic, Claude уже интегрирован в несколько продуктов, например, в мгновенные сводки DuckAssist от DuckDuckGo, часть Notion AI и приложение для чата с ИИ под названием Poe, созданное Quora.