Как работает искусственный интеллект (ИИ)? Сами создатели сравнивают его с человеческим мозгом. Правда, как оказалось, за столь общими формулировками скрывается вовсе не сложность, а полнейшая невозможность объяснения.
Подобно мозгу
Директор OpenAI Сэм Альтман в своем выступлении на конференции MIT Media Lab сравнил работу генеративной языковой модели GPT с функционированием человеческого мозга. Он отметил, что, подобно мозгу человека, GPT генерирует новый контент на основе существующих данных и обучается с течением времени. Однако, когда у Альтмана спросили о подробностях — ведь в отличие от человека, GPT не обладает эмоциональным интеллектом и сознанием — от ответа он ушел.
Мы не понимаем
«Мы не понимаем, что происходит в мозгу людейна уровне нейронов, но знаем, что вы можете следовать некоторым правилам», — сказал Альтман. Именно по этой причине, по его словам, сложно понять, как алгоритмы GPT приходят к своим выводам. Это вновь всколыхнуло споры о том, насколько безопасно и этично использовать такие мощные модели ИИ.
Не нужно понимать
Один из участников конференции спросил Альтмана напрямую: «Если вы не понимаете, как работает GPT, разве это не аргумент в пользу того, чтобы не выпускать новые, более мощные модели?». На что специалист ответил, что не видит в этом проблемы, так как, хоть в OpenAI и «не решили проблему интерпретируемости [понимания того, как системы ИИ и машинного обучения принимают решения]», это еще не повод, чтобы не выпускать новые версии. По его словам, OpenAI не нужно полностью понимать свой продукт — куда важнее «продолжать исследования и разработки в этой области, даже если мы не до конца понимаем, как работает ИИ».
Неоднозначная реакция
Позиция Альтмана вызывала неоднозначную реакцию. Сторонники его точки зрения считают, что без определенной доли риска прогресс в принципе невозможен. Противники же опасаются, что неконтролируемое развитие ИИ может привести к непредсказуемым и потенциально катастрофическим последствиям.
The post Создатели Chat GPT признались, что сами не знают, как он работает appeared first on Русская семерка.