Выступающие на конференции Neural Information Processing Systems специалисты в области искусственного интеллекта заявили, что перестали понимать принцип принятия решений, которым руководствуется искусственный интеллект, — сообщает Quartz. По мнению экспертов, принимать как должное действия искусственный интеллект без понимания его логики — довольно легкомысленно, ведь чтобы люди приняли модели машинного обучения, им нужно знать, чем именно руководствуется искусственный интеллект, решая, как именно ему следует поступить в конкретной ситуации.
Часто решения, принятые искусственным интеллектом, бывают предвзятыми, кроме того, его ассоциативное «мышление» тоже зачастую бывает не столь идеальным, в результате чего искусственный интеллект проводит неправильные аналогии. Такие ошибки могут дорого обойтись, если искусственный интеллект будет руководить сложными проектами, такими, к примеру, как полёт на Марс — в этом случае неверный поступок искусственного интеллекта может не только уничтожить дорогостоящее оборудование, но и повлечь за собой смерти людей. Поэтому, перед тем, как позволить искусственному интеллекту самостоятельно принимать важные решения, необходимо сначала изучить принципы, которыми он руководствуется, — поясняет Metra Рагху, специалист по искусственному интеллекту из Google.
На конференции она представила доклад, в котором описала процесс отслеживания действий отдельных частей неросети. Осматривая их по частям, можно понять логику искусственного интеллекта, а затем, в случае чего, её и подкорректировать. Анализируя миллионы операций, она смогла выявить отдельные искусственные «нейроны», которые концентрировались на неверных представлениях, а затем отключить их, сделав искусственный интеллект более сговорчивым и правильным.
«Это чем-то похоже на то, как учитель подаёт какой-то материал, а затем просит ученика пересказать своими словами, что именно он понял из лекции, — поясняет Kiri Wagstaff - эксперт из NASA.»
Судя по результатам этого исследования, верно понять действия искусственного интеллекта не так уж и сложно. Главное — решить проблему до того, как станет слишком поздно.