Гонолулу - новая схема обучения напоминает искусственному интеллекту что она не всезнайка.
Программы искусственного интеллекта которые запускаются на роботах, автомобилях с автоматическим управлением и на других автономных устройствах часто тренируются в симулированной среде перед тем как попасть в реальные условия. Однако ситуации с которыми искусственный интеллект не сталкивался в виртуальной реальности могут стать слепыми пятнами при принятии реальных решений. К примеру робот доставки, обручённый в виртуальном городском пейзаже без аварий транспортных средств, может не знать что ему следует остановиться перед выходом на пешеходный переход, если он услышит сигнал сирены.
Чтобы создать машины которые ошибаются из-за осторожности, ученый Рами Рамакришнан из Массачусетского технологического института и его коллеги разработали программу обучения пост моделирования, в которой человек-демонстратор помогает искусственному интеллекту выявить пробелы в его образовании. Это позволит ии безопасно действовать в реальном мире, - говорит Рамакришнан, чья разработка была представлена 31 январь конференция по искусственному интеллекту. В дальнейшем инженеры также смогут использовать информацию о слепых зонах ии, для более качественной симуляции в будущем.
В течение испытательного срока искусственный интеллект принимает к сведению факторы окружающей среды, влияющие на действие человека, которые он не распознаёт при моделировании. Когда человек делает чего-то, чего ии не ожидает например, колеблется, при выходе на пешеходный переход, не смотря на то, что имеет преимущественное право перехода, искусственный интеллект сканирует своего окружение на предмет ранее неизвестных элементов, таких как сирены. И если искусственный интеллект обнаруживает какой-либо из этих сигналов, он предполагает, что человек соблюдает какой-то протокол безопасности, который он не изучал в симуляции, и он должен подчиниться суждению человека в этой ситуации.
Рамакришна и его коллеги проверили это установку, сначала обучив ии упрощенному моделированию, а затем позволив ему изучить свои слепые зоны от человеческих персонажей в более реалистичных, но все же виртуальных мирах. Теперь исследователям необходимо протестировать систему в реальном мире.