Компания Synth Labs, сфокусированная на создании программного обеспечения для улучшения выравнивания систем искусственного интеллекта (ИИ) с замыслами их создателей, представила свою деятельность после получения инвестиций от M12, фонда венчурного капитала Microsoft, и First Spark Ventures Эрика Шмидта.
Компания, в центре внимания которой проблема выравнивания, разрабатывает программы, в том числе открытого исходного кода, чтобы обеспечить соответствие действий ИИ намерениям создателей.
Проблема выравнивания представляет собой техническую сложность для ИИ-приложений, таких как чат-боты, построенные на больших языковых моделях. Synth Labs предоставит инструменты для управления и настройки таких моделей, особенно тех, что являются открытыми исходниками. Компания утверждает, что ее подход направлен на прозрачность и сотрудничество.
Synth Labs видит свою задачу в предоставлении возможности бизнесам или частным лицам определять, что означает выравнивание для их ИИ-систем.