Найти в Дзене
Наука везде

ИИ ошибается и это- факт

ИИ ошибается
ИИ ошибается

ИИ, модный тренд. Спросите программистов это о чём ? Это статистические методы обработки с интеллектуальной составляющей. Это именно то - что позволяет простейшей логике разобраться с ложью статистики. Нашли новый метод познания? Тут лежит область соединяющая страхи общества перед нечеловеческой логикой. Нечеловеческой в том смысле, что она адаптивна и позволяет менять парадигмы обработки информации для достижения лучшего совпадения этой обработки с наблюдаемыми процессами и явлениями. Так, в области разрешения структуры белков, такая программа подбирает алгоритм который дает наилучшее совпадения с экспериментально наблюдаемыми структурами. Основа - огромный набор данных по структурам белков и общие подходы к принципам взаимодействия..

Что тут самое важное:

1 Сами разработчики программ уже не знают - как это работает.

2 Процесс нечувствителен к смене парадигм - т.е., прогнозирующие способности не могут работать с новыми постановками задач, если там меняется логика.

3 Человек с ИИ уже теряет нить понимания: что собственно происходит. И на каком основании ИИ принимает какое-то решение.

4 При достаточной широте вложенных свобод система может давать более низкие приоритеты защите. Это происходит неизбежно.

5 Пункт 4 точно означает, потерю границы допустимости решений. Это хорошо, когда есть контроль специалиста в этой области (!), не Программиста ! Но приводит к непредсказуемости при допуске к ответственным решениям.

6 Это точно означает, что система будет ошибаться, вопрос: насколько люди согласятся с ошибками системы, полный алгоритм принятия решений в которой им непонятен (ИМЕННО НЕПОНЯТЕН).

Это к вопросу об ИИ. ИИ, без сомнения хороший метод там где существуют огромные базы данных , но отсутствует теория. То есть, это работает там - где человек не знает алгоритмов аналитических решений.

Отдельно стоит вопрос о том, насколько это поможет поиску этих аналитических решений (теории) . Результаты то появляются? Это как работа по наитию или интуиции, человек не может объяснить почему он что-то решил или предпочитает .. Но то что это прилично обесценивает их работу- без сомнения.

ИИ, ошибка, ошибается