195 подписчиков
Сертификат раздавали всем, кто посетил конференцию Яндекса об образовании.
Конечно, много говорили об ИИ.
Все записи есть на сайте, предлагаю составить собственное мнение.
Я же напишу про своё мнение по доступным данным :)
Слабый ИИ/сильный ИИ.
Для людей не из ИТ, расскажу, что когда термин ИИ стал широко использоваться в маркетинге и рекламе, в ученой среде появилось два понятия: слабый ИИ и сильный ИИ. И все, что называют в масс-медиа ИИ - это, как правило, "слабый ИИ".
Сильный ИИ может решать интеллектуальные задачи, но при этом он копирует человеческое решение и/или математическое моделирование.
Про эффект Конкорда.
Когда я слышу про ИИ, часто вспоминаю историю двигателя внутреннего сгорания на бензине.
Рекомендую, кстати, её всем (в том числе школьникам) для верхнеуровнего знакомства с теорией игр.
Своими словами:
В 1890 году мы уже знали, что можно использовать пар, электричество, и бензин для ДВС.
И знали, что бензин - худший выбор. Но был громкий случай в 1895 году, как бензиновая тачка выиграла гонку, в результате патенты, продажи... в бензиновый двигатель вложили столько денег, что отказаться уже сложно.
Сколько денег вложили в ИИ... Понятно, что инвесторам будет трудно признавать ошибки, и оставлять только действительно толковое применение ИИ. Этот эффект еще называют "ловушка невозвратных затрат" - эффектом Конкорда.
Про развитие ИИ.
На днях Amazon "откатился" от ИИ в Алексе, потому что разочарован возможностями, которые даёт генеративный ИИ для её голосового ассистента Alexa. Штука, которая генерирует текст, генерирует только текст, как бы это не было удивительно...
Теперь будут пытаться не только генерировать текст, но и задачи решать.
Парадоксы.
1) ИИ пытаются включать для персонализации в образование. "Персонализация" в моделях машинного обучения, делается на основе агрегированных целевых метрик моделей - всегда меня забавляло это базовое противоречие. Автоматизация условий под параметры человека - это ведь детерминированная задача, зачем сюда ии прилеплять.
2) Генеративные модели строятся на качественных доступных данных и дают неверные/устаревшие ответы в экспертных темах.
Другими словами, чтобы подготовить ответы, нужны эксперты. А чтобы проверить, что в ответе нет ошибок, нужны эксперты еще большего уровня.
В заключение.
Понятно, что в каких-то сферах ИИ будет использоваться и развиваться.
Ассистенты на базе машинного обучения и нейронных сетей - это, в каком-то смысле, просто еще одна модель индексирования текста/картинок/информации.
Желаю, чтобы все это "ИИ" направляли очень духовно развитые люди под влиянием моральных и долгосрочных ценностей. 😊
2 минуты
22 ноября 2024