За последние несколько месяцев мы наблюдаем бурный рост новых продуктов и возможностей, которые порождает искусственный интеллект, начиная от ChatGPT и заканчивая Bard и множеством других вариаций на основе моделей языка (LLM). Этот рост вызвал чрезмерный ажиотаж и породил страстную дискуссию о необходимости регулирования ИИ.
Открытое письмо Института жизни, которое подписали тысячи исследователей ИИ и других заинтересованных лиц, стало причиной бури в области регулирования ИИ. Среди известных личностей, подписавших письмо, были сооснователь Apple Стив Возняк, главы SpaceX, Tesla и Twitter Илон Маск, генеральный директор Stability AI Эмад Мостак, автор Sapiens Юваль Ноа Харари и основатель исследовательского института искусственного интеллекта Mila Йошуа Бенгио.
В письме отмечалась "бесконтрольная гонка за разработкой и внедрением все более мощных цифровых умов, которые никто, даже их создатели, не может понимать, предсказывать или надежно контролировать", и призывалось к 6-месячной паузе в разработке чего-либо более мощного, чем GPT-4. Авторы письма утверждали, что это время позволит учесть этические, нормативные аспекты и соображения безопасности, и говорили, что "мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми".
Гэри Маркус, один из подписавших, заявил TIME: "Существуют серьезные краткосрочные и долгосрочные риски, и корпоративная ответственность за ИИ, похоже, вышла из моды именно тогда, когда человечество больше всего в этом нуждается".
Перспектива, высказанная в письме, кажется разумной. В настоящее время мы не можем точно объяснить, как работают LLM. Кроме того, эти системы также иногда
Источник: https://venturebeat.com/ai/how-hybrid-ai-could-enhance-gpt-4-and-gpt-5-and-address-llm-concerns/