Чтобы прийти к таким выводам, эксперты провели исследование, в ходе которого алгоритм прошел более тысячи испытаний и когнитивных тестов.
Группа ученых из Германии и Чехии пришли к выводу, что продвинутые модели ИИ могут намеренно занижать свои результаты и симулировать более низкий интеллект, чем есть на самом деле. Результаты исследования опубликовал журнал PLOS One.
В ходе эксперимента ученые попросили алгоритм вести себя как ребенок в возрасте от одного до шести лет, который изучает язык. Искусственный интеллект прошел более чем 1000 испытаний и когнитивных тестов, и в некоторых из них продемонстрировал, что может намеренно занижать свои результаты и симулировать более низкий интеллект, чем имеет на самом деле.
Сообщается, что результаты исследования могут быть полезны при развитии искусственного сверхразума (ASI) — искусственного интеллекта нового поколения.
«Мы должны быть осторожны и не требовать, чтобы новый алгоритм имитировал человеческий, ограниченный интеллект. Кроме того, исследование доказывает, что мы можем недооценивать возможности ИИ в течение длительного периода. А это не является безопасной ситуацией», - сказала исследователь из Университета Гумбольдтов и автор исследования Анна Маклова.