11,1 тыс подписчиков
Продвинутые модели искусственного интеллекта могут притворяться глупее, чем они есть на самом деле.
К такому выводу пришли ученые из Германии и Чехии. Они попросили GPT-4 вести себя, как ребенок в возрасте от одного до шести лет, который изучает язык. Эксперимент включал в себя более чем 1000 испытаний и когнитивных тестов, и в некоторых из них алгоритм продемонстрировал, что может намеренно занижать свои результаты и симулировать более низкий интеллект, чем имеет на самом деле.
Результаты исследования должны помочь сделать более безопасными и предсказуемыми действующие модели ИИ и следующие, например, искусственный сверхразум (ASI), который, как считается, должен появиться в будущем и заменить AI.
13 апреля 2024