Как сообщили агентству Reuters два источника, знакомых с ситуацией, перед увольнением генерального директора OpenAI Сэма Альтмана группа сотрудников компании составила обращение к совету директоров, в котором выражались опасения по поводу разработки искусственного интеллекта, способного представить угрозу для человечества.
OpenAI, воздержавшись от комментариев, внутренне признала существование проекта, получившего название Q*. По словам одного из источников, эта информация была доведена до сведения сотрудников. В OpenAI считают, что проект Q* (произносится как Q-Star) может ознаменовать собой значительное продвижение в области создания искусственного интеллекта общего назначения ИИОН. По определению OpenAI, под такими ИИ понимаются автономные системы, превосходящие человека в решении наиболее экономически ценных задач.
Значительные вычислительные ресурсы, выделенные новой модели, позволили ей успешно решать некоторые математические задачи, сообщает источник. Несмотря на то, что в настоящее время Q* демонстрирует математические способности на уровне учеников начальной школы, успешное прохождение тестов вселяет в исследователей оптимизм в отношении будущих возможностей модели.
Исследователи полагают, что математика стоит на переднем крае развития генеративного ИИ. В настоящее время генеративный ИИ успешно справляется с такими задачами, как письмо, перевод и статистическое предсказание следующего слова. Однако ответы на один и тот же вопрос могут существенно различаться.
Обращение исследователей к совету директоров подчеркивает возможности ИИ и его потенциальную опасность. В среде ученых-компьютерщиков уже давно ведется дискуссия о рисках, связанных с высокоинтеллектуальными машинами, в том числе о возможности того, что такие машины решат, что уничтожение человечества соответствует их интересам.
В течение одного дня после получения письма совет директоров уволил Альтмана. Последние события свидетельствуют о его восстановлении в должности генерального директора OpenAI после неоднозначного увольнения.