На сайте некоммерческого института Future of Life было опубликовано открытое письмо с обращением ко всем рабочим группам и лабораториям, которые занимаются развитием искусственного интеллекта (ИИ). Свыше тысячи представителей IT-индустрии, профессоров университетов и экспертов в области ИИ-технологий, включая Илона Маска и Стива Возняка, подписали письмо и призывают ввести полугодовой мораторий на обучение ИИ. Речь идет о более производительных языковых моделях, нежели GPT-4.
Согласно тексту документа, разработка любой мощной ИИ-системы должна начинаться лишь после того, как люди будут уверены в том, что развитие принесет положительный результат, а все связанные с ним риски можно будет контролировать. Не обошлось без упоминания о потенциальных угрозах для человеческой цивилизации, поскольку наличие ИИ, способного конкурировать с человеком, может привести к политическим и экономическим потрясениям. По этой причине всех разработчиков таких систем призывают к тесному сотрудничеству с регуляторами.
Согласно данным полицейской службы Европейского союза, чат-бот ChatGPT, разработанный компанией OpenAI, уже в текущий момент используется в корыстных целях. Злоумышленники нашли применение ИИ-системам в сфере фишинга, дезинформации и совершения киберпреступлений. Интересно, что к числу обеспокоенных развитием ИИ присоединился Илон Маск, хотя его компания Tesla очень давно использует элементы искусственного интеллекта в системах автопилота своих автомобилей. При этом Сэм Альтман, который является главой OpenAI, не подписал открытое письмо, а пресс-служба компании отказалась от комментариев.
Для тех, кто не в курсе событий минувших дней, рассказываем! В середине марта этого года OpenAI представила новое поколение языковой модели GPT-4, которая на 40% превосходит предыдущую версию. Например, «четверка» отличается большей креативностью, у нее выше надежность, и она способна обрабатывать более детализированные запросы от пользователей.
