В отличие от человеческого мозга, качество работы котрого со временем может ухудшаться, большинство ИИ-систем сохраняют или даже улучшают свои способности. Однако группа исследователей из Калифорнийского университета в Ирвине решила изучить, как можно искусственно воспроизвести процессы нейродегенерации в ИИ-агентах.
В своей недавней работе, опубликованной на платформе arXiv, учёные использовали крупные языковые модели (LLM), такие как LLaMA 2, чтобы намеренно "эродировать" их нейронные связи и нейроны. Это привело к контролируемому снижению производительности моделей при прохождении тестов на интеллект.
Исследователи обнаружили, что в результате такой "нейроэрозии" ИИ-системы сначала теряют способность к абстрактному мышлению, затем - математические навыки, и в конечном итоге - языковые умения, не способны связно отвечать на запросы. Этот паттерн деградации оказался схожим с наблюдаемыми у людей при нейродегенеративных заболеваниях.
"Это первое исследование в серии, которая позволит нам лучше понять сложные ИИ-системы, повысить их безопасность и интерпретируемость, - говорит соавтор работы Юй-Дай Цай. - В будущем мы планируем расширить эмуляцию на другие неврологические заболевания и нейроразнообразие".
Хотя учёные не ставили целью точно воспроизвести человеческие болезни мозга, их работа открывает новые возможности для развития ИИ. Искусственная нейродегенерация может помочь выявить критические способности ИИ-систем и разработать методы, использующие наблюдаемые паттерны деградации для решения практических задач.
Таким образом, данное исследование закладывает основу для дальнейшего изучения старения и ухудшения функций ИИ-агентов, что может способствовать созданию более безопасных и надёжных искусственных интеллектуальных систем будущего.
Источник:
DOI: 10.48550/arxiv.2403.10596
-------------------------------------
Поддержите наш проект: подпишитесь на канал, поставьте лайк или напишите комментарий, а также подписывайтесь на наши страницы на других площадках, в том числе на сервисе поддержки авторов Бусти. Ссылки найдёте в описании канала. Заранее спасибо!