Эксперты и предприниматели, среди которых миллиардеры Илон Маск и Стив Возняк, объединились и подписали открытое письмо, в котором выразили свою обеспокоенность разработкой систем искусственного интеллекта. В письме было указано, что такие системы несут потенциальные угрозы для общества и человечества, и поэтому следует приостановить их разработку. Эксперты обратили внимание на возможные последствия использования более развитых систем искусственного интеллекта, включая потенциальную автономность и способность принимать решения, которые могут быть вопреки интересам человека. По мнению экспертов, перед продолжением разработки систем искусственного интеллекта необходимо разработать эффективные механизмы контроля и регулирования, чтобы обезопасить человечество от возможных рисков.
В письме отмечается, что будущие системы искусственного интеллекта, которые будут более мощными, чем GPT-4 компании OpenAI, могут представлять неуправляемые риски экономических и политических потрясений. В частности, высказывание такой точки зрения поддерживают известные сотрудники холдинга Alphabet (ранее - Google) и ведущие специалисты по ИИ, такие как Йошуа Бенжио и Стюарт Рассел.
Авторы письма предлагают решение этой проблемы: прежде чем продолжать развивать искусственный интеллект, необходимо разработать протоколы безопасности, которые будут утверждаться независимыми экспертами. Кроме того, разработчикам следует теснее сотрудничать с политиками и регулирующими органами.
Как сообщалось ранее на Ruposters, пользователи ChatGPT жаловались на то, что им показываются беседы других людей в нейросети. В результате компания OpenAI временно приостановила работу ChatGPT. Оказалось, что причиной проблемы стало использование стороннего программного обеспечения с открытым исходным кодом.