В своем новом эссе исследователь искусственного интеллекта и главный исполнительный директор компании Anthropic Дарио Амодей объявил о планах создать систему под названием «МРТ ИИ», которая должна выяснить, как работает технология. Цель в том, чтобы предотвратить любые непредвиденные опасности, связанные с загадочной природой ИИ.
«Когда генеративная система искусственного интеллекта что-то делает, например, дает оценку финансовому документу, мы не имеем ни малейшего представления, как она это делает — почему она выбирает одни слова вместо других или почему она иногда совершает ошибку, хотя обычно она точна», — признался генеральный директор Anthropic.
На первый взгляд, для людей, далеких от мира ИИ, удивительно узнать, что специалисты, создающие эти постоянно совершенствующиеся технологии, не понимают, как работают их творения.
Но с другой стороны, возможно, все не совсем так; все генераторы изображений и текстов, которые стали очень популярны в последние годы, работают по сходному принципу: загружают гигантскую кучу данных и позволяют статистическим системам использовать их для шаблонов, которые можно воспроизвести. Все это основано на поглощенных творческих работах людей.
«Такое отсутствие понимания, по сути, беспрецедентно в истории технологий», — резюмировал Амодей.
Напомним, что в конце 2020 года Амодей покинул OpenAI из-за опасений по поводу пренебрежения компанией правил безопасности, которые она отбрасывает в погоне за прибылью. Амодей и еще пять бывших сотрудников OpenAI основали Anthropic, чтобы работать над созданием более безопасного ИИ.