ЧТО РАССКАЗАЛИ ИССЛЕДОВАТЕЛИ О СЛОЖНОСТЯХ ИИ СО СУДОКУ
Искусственный интеллект впечатляет во многих аспектах, но его способности в решении простейших логических головоломок, таких как Судоку, вызывают вопросы. Исследование, проведенное Университетом Колорадо, показало, что крупные языковые модели не справляются с задачами, для которых требуется логическое мышление.
В исследовании ученые оценивали, как ИИ решает не только стандартные 9×9 Судоку, но даже упрощенные 6×6 варианты. Оказалось, что для решения простейших головоломок моделям часто требуется внешняя помощь, такая как специальные инструменты.
ОТКРОЙ ОЧИ
Что более важно, это то, что когда у моделей спрашивали, как они пришли к своим решениям, большинство не могли объяснить свои действия. Иногда они неправильно интерпретировали шаги, а порой просто давали ответы, не имеющие отношения к вопросу.
По словам Ашутопа Триведи, профессора компьютерных наук, такие результаты должны настораживать, когда мы обсуждаем возможности ИИ в управлении сложными процессами. "Мы хотели бы видеть прозрачные объяснения процесса принятия решений, а не манипуляции, создаваемые для угождения людям", — отметил он.
ТЕПЕРЬ О СУДОКУ
Судоку требует анализа ситуации и выстраивания логической последовательности, а не механического заполнения пустых ячеек. ИИ, обученные на больших объемах данных, могут не уметь видеть общую картину, необходимую для решения таких головоломок. Это объясняет, почему поколения ИИ не справляются с этой задачей.
Недавние исследования также показывают, что большинство моделей потерпели неудачу и в других логических задачах. Подобные затруднения возникают из-за того, как такие модели извлекают информацию и делают выводы на основе паттернов, а не логики.
СОЗНАНИЕ И ОБЪЯСНЕНИЯ
Ученые не ограничивались проверкой способности ИИ решать Судоку, они также анализировали, насколько хорошо модели могут объяснять свои шаги. В ходе тестирования от OpenAI была замечена неточность в объяснениях. "Они могут формулировать ответы, но часто не отражают правильные шаги для решения проблем", — комментирует Мария Пачеко, научный сотрудник того же университета.
Сложность в объяснении своего подхода — это не просто учебная неудача. В условиях, когда ИИ все чаще берет на себя ответственность за важные задачи, такая неспособность объяснить свои решение может иметь серьезные последствия. Как бы вы отнеслись к тому, чтобы доверить судьбоносные решения ИИ, висевшему на волоске от неправильного объяснения?
Необходимость честного объяснения собственных действий — важная черта не только для людей, но и для ИИ. К тому же, в будущем такие объяснения могут стать решающими в судебных разбирательствах.
В заключение, необходимо быть осторожным при принятии решений на основе информации ИИ без четкого понимания логики, стоящей за её выводами.