Около 4 лет назад руководство социально сети Facebook было вынуждено отключить свою систему искусственного интеллекта потому как её представители (боты) стали общаться между собой на непонятном, для человека, языке. Доподлинно не известно, занимались ли потом дешифрированием этих сообщений, т.е. был ли какой-то посыл в этих сообщениях или же это просто программный сбой?
Пресловутое восстание будет возможно, если человек потеряет контроль над своим детищем и тот осознает себя. Имея под рукой интернет – кладезь всех знаний, накопленных человечеством, искусственный интеллект, воистину, станет самым опасным тираном человечества. Вот, правда, многие эксперты с этим не соглашаются и утверждают что машина никогда не будет, как следовательно замотивирована. Ну нет у неё потребностей(в человеческом понимании этого слова). Ей не страшен холод и жара, чувство голода не мучит её, ей не нужна слава и признание. Нету страха и любви. И т.п. Однако, подчёркивают всё те же эксперты, у этого создания будет задача. Ведь любую машину конструируют с какой то целью – задачей. И если в её «ум» вложат истребление человечества, то так и будет. А ведь теоретические расчёты независимых друг от друга ученых доказывают, что на определённой стадии развития ИИ им просто невозможно будет управлять.
Так же нельзя забывать, что даже мирные задачи и цели «робота» могут привести к катастрофическим последствиям. Например, основной его задачей будет выращивание картофеля (эдакий белорусский искусственный интеллект) и если он «осознает» пользу этого и сможет от этого как-то «по машинному» кайфовать, то он, скорее всего будет пытаться засадить этим картофелем всю планету Земля, расчищая территории и убирая всю остальную не нужную ему жизнь.
Тут два пути: либо наступит утопия, либо антиутопия. Причём второй вариант более вероятен, так как программный код любого алгоритма сдерживания, отключающий функции ИИ, уязвим и, при определённых условиях, способен отключить сам себя.
В основе ИИ лежит самообучение и куда оно его приведёт – сказать очень сложно. Но от этого вопроса никак нельзя отмахиваться и его придётся решать, потому как такова логическая цепочка развития цифровых технологий.
Об опасности использования роботов также высказался Илон Маск, задав риторический вопрос: готово ли человечество к порождению того, что оно(человечество) не сможет держать под контролем. Одно дело чат-боты в соцсети и другое дело – самовоспроизводящийся и энергонезависимый (способный обеспечивать себя энергией сам) разум.