Ни одна из ведущих исследовательских лабораторий в области ИИ пока не представила доказательств скорого появления так называемого общего искусственного интеллекта (Artificial general intelligence, AGI), независимо от определения этого термина. Однако Google уже думает о мире «после AGI». Компания ищет научного сотрудника в свою лабораторию DeepMind, который должен исследовать влияние технологии на общество.
Согласно описанию вакансии, сотрудник будет «возглавлять исследовательские проекты, изучающие влияние AGI на такие области, как экономика, право, здравоохранение/благополучие, переход от AGI к ASI (искусственному сверхинтеллекту), машинное сознание и образование».
Искусственный сверхинтеллект (Artificial Super Intelligence, ASI) относится к гипотетической форме ИИ, превосходящей человеческий интеллект во всех областях. Под «машинным сознанием» Google подразумевает научно-фантастическую идею разумной машины.
Стоит отметить, что AGI остается расплывчатым термином и целью. Компании устанавливают разные критерии достижения AGI. Например, в документе OpenAI и Microsoft от 2023 года AGI определялся как ИИ-система, способная генерировать до $100 млрд прибыли. Очевидно, это не является каким-либо научным критерием.
А вот вакансия Google, похоже, готовит компанию к самой амбициозной научно-фантастической интерпретации AGI. Среди других обязанностей научного сотрудника указывается проведение «углубленных исследований для анализа социальных последствий AGI в ключевых областях» и создание «инфраструктуры и рамок оценки для систематического анализа влияния ИИ на общество».
Вакансия появилась вскоре публикации отчёта DeepMind об «ответственном подходе к AGI». В отчете утверждается, что «ИИ, способный решать большинство когнитивных задач не хуже человека, может появиться уже в ближайшие годы». Также описывается системный подход Google к безопасности AGI, сфокусированный на четырех основных областях риска: злоупотребление, рассогласование с целями человека, случайности и структурные риски.