Искуственный интелект в большинстве случаев понятен людям - но существуют нейросетевые технологии, код которых не разобрать даже создателям.
Такие технологии сейчас распространены среди программ, которые слишком сложны, чтобы их написать самому. Недавно, с помощью нейросетевых технологий черно-белые фильмы можно "окрасить".
Пример: трейлер компьютерной игры "Fallout 4" был специально стилизован под черно-белый фильм, чтобы придать атмосферу прошлого. Вот как ИИ "окрасил" его:
В 3-ех минутах около 5 400 кадров, которые собственноручно окрасил ИИ с машинным обучением. Для людей легко обнаружить что есть что, но дизайнеры знают - изображение, то есть кадр - это не более, чем куча пикселей. И как узнать где "земля", а где "ботинок", если всё что ты знаешь - какой цвет у этого пикселя? Мы лишь интерпретируем это как землю, на самом деле это лишь ее проекция на камеру.
Такие технологии несовершенны даже в их собственной среде - компьютере, но что если мы выпустим роботов, которые будут сражаться на нашей стороне? Как они определят, кто "наши"?
Допустим, люди найдут способ. Теоретический бейджик, который будет говорить роботам "Я ваш! Я на вашей стороне!". Но и это не сработает, если "не ваш" сорвет этот бейджик. Тогда мало того что он перестанет быть "вашим", так и враг станет для робота союзником.
Так что, единственный путь решить эту проблему - не выпускать людей на войну. Но что будет, когда это случится? Люди потеряют работу. Много людей. И шпионы, которые будут красть технологии, будут нужны как никогда.
Надеюсь вам понравилась статья, вы меня очень сильно поддержите если поставите лайк. Даже один очень важен для канала.