Анонс GPT-4o никого не оставил равнодушным. Предполагается, что ИИ может продолжать расти еще больше, поскольку это усовершенствованная версия GPT-4 Turbo, а не скачок к новой версии, такой как долгожданная GPT-5, о которой мы до сих пор ничего не знаем. В связи с этим один из сотрудников службы безопасности компании решил уволиться, считая, что компании больше нельзя доверять управление столь важным ИИ, не говоря уже о достижении знаменитого искусственного общего интеллекта или AGI.
Сотрудник службы безопасности OpenAI уволился из OpenAI, как сообщает Futurism, из-за недоверия к компании Сэма Альтмана. Он сделал это в основном потому, что сомневается в том, что OpenAI будет нести ответственность, когда наступит AGI - момент, когда ИИ сможет без проблем превзойти человеческие возможности. Его зовут Даниэль Кокотайло, он имеет докторскую степень по философии и работал в команде по этике компании, поэтому важно помнить, что его работа в компании заключалась именно в том, чтобы следить за тем, смогут ли вещи работать должным образом в соответствии с моралью современного общества.
Кокотайло был очень разочарован тем, что неоднократно звучали призывы приостановить развитие этих технологий, чтобы эффективно управлять воздействием, которое они могут оказать на общество. Однако большая проблема, с которой мы сталкиваемся, заключается в том, что если остановить разработку, то рентабельность этих компаний рухнет, что приведет к их банкротству. Именно поэтому многие передовые проекты, такие как Sora, постоянно демонстрируются, хотя до их появления на свет остаются считанные месяцы. Как бы то ни было, эксперты продолжают предупреждать о необходимости приостановить разработки из-за потенциальной опасности ИИ, который будет намного умнее нас.
В настоящее время, хотя эти опасения существуют, нет никакой гарантии, что ИИ сможет взять под контроль систему или даже достичь AGI. Для одних экспертов этот вопрос очень близок к ИИ, а для других - наоборот, поскольку достичь этого будет невозможно, сколько бы мы ни направляли на это свои усилия.