Основные перспективы развития искусственного интеллекта связаны с созданием и повсеместным внедрением интернета вещей (IoT – Internet of Things), что порождает острую необходимость создания мощных интеллектуальных систем управления этими вещами. Интернет вещей это некая служебная сеть, которая сейчас организована на технологиях Интернета (стандартные протоколы передачи данных TCP, UDP, IP различных версий, 6LoWPAN и подобные). К этой сети подключаются простые устройства, которые имеют в своем составе микропроцессорное управление на основе не очень сложных алгоритмов. Например, чайник. Он может только кипятить воду, поддерживать температуру воды и сообщать об отсутствии воды. Всё это передается на смартфон владельца. К тому же смартфону может быть подключен холодильник, терморегуляция квартиры, управление освещением, сигнализация и прочее. Каждое из этих устройств обладает весьма простым «интеллектом» на две-три операции, но объединение этих простых устройств в общую систему «умного дома» это уже сложная система управления со множеством комбинаций срабатывания.
На сегодняшнем этапе практически решена задача управления сложными индивидуальными системами – вспомните свой смартфон с навигатором, ему вполне можно доверять в пути. А вот координация работы множества навигаторов уже совсем нетривиальная задача – вспомним недавний сбой в работе одного из агрегаторов такси 1-го сентября 2022 года в районе метро «Кутузовская». Тогда сотни машин были направлены искусственным интеллектом в район Фили. Представители агрегатора утверждают, что это была хакерская атака. Но атака заключалась в том, что хакерами были инициировано большое количество заказов в один район, а вот искусственный интеллект просто не справился с анализом такой ситуации и не распознал странности в столь массовом заказе.
Говоря об искусственном интеллекте, следует понимать, что в текущем прикладном аспекте это прежде всего маркетинговый термин, за которым скрываются сложные управляющие алгоритмы. Причем с точки зрения проводимых вычислений это могут быть совсем простые операции – что-то типа подсчёта средних значений и сравнения их между собой. А вот логика ветвления этих алгоритмов может быть очень сложной. И эти ветвления представляют собой не просто некоторую дорогу с перекрестками, а сложную дорожную сеть. И в этой сложной дорожной сети из точки А в точку В можно прийти совершенно разными путями. Конкретный путь каждого алгоритма может зависеть от множества сиюминутных входных значений и условий, вплоть до скачков напряжения в электрической сети во время вычислений. Поэтому один и тот же алгоритм при одних и тех же входных данных может выдавать разные по оптимальности решения. И просчитать эти решения на таком же точно алгоритме, запущенном параллельно, становится невозможным.
То есть исчезает возможность внешнего контроля за производимыми вычислениями, а следовательно, возникают различные опасные ситуации, как например, было с катастрофами Boeing 737 MAX авиакомпаний Lion (октябрь 2018 года) и Ethiopian Airlines (март 2019 года). Тогда вину свалили на низкооплачиваемых индийских разработчиков из копаний HCL Technologies и Cyient. Те в свою очередь, переложили вину на некачественные спецификации алгоритмов (техническое задание на разработку и тестирование) от Boeing. В итоге всех тяжб бытует мнение, что во всем виноват некий «искусственный интеллект». Но суть проблемы «плохих кодов» и «плохих тестировщиков» заключается на самом деле в том, что плохой алгоритм порождает некие паразитные ветвления в алгоритмах. Плохой код добавляет ошибки срабатывания, что тоже ведет к увеличению ветвлений, а тестировщики просто не могут отследить все возможные комбинации ошибок (их количество превосходит все разумные пределы). То есть готовый алгоритм уверенно проходит тестирование на некие критические показатели в определенном наборе, но как он будет работать при других показателях отследить и предугадать невозможно.
Еще одна проблема – это общее усложнение технологических систем. Усложнение идет за счет построения новых устройств на основе использования старых устройств. Здесь можно привести такой простой бытовой пример – старая квартира со старой электрической проводкой. Проводка скрыта где-то в стене, а к розеткам подключают самое современное оборудование. Где, как и кем сделана проводка уже узнать невозможно за давностью лет, а менять её по всей квартире слишком дорого. Конечно, можно пойти на затраты и поменять проводку на новую по всей квартире, но старые то провода где-то останутся и даже могут быть подключены к какому-нибудь щитку, про который хозяин тоже не знает. Или когда-то где-то в сети была поставлена перемычка, или было замыкание, а его как-то ликвидировали, перекоммутировав сеть.
Четверть века назад специалисты обратили на это внимание и назвали ситуацию «Проблема 2000». Суть её заключалась в том, что многие алгоритмы для вычисления дат использовали только две последние цифры в обозначении года, то есть год 2001 с точки зрения программы был раньше, чем 1999-й. Программисты 1960-70 годов честно делали свое дело, и не предполагали, что их программы доживут в управляющих контурах (в данном случае – это набор различных аппаратных средств разного года выпуска и разных производителей) больше 10-15 лет. А как выяснилось – управляющие контуры, то есть тот самый искусственный интеллект – могут успешно работать совместно и 50 лет и дольше. В 2000-м году специалисты сделали всё возможное, чтобы избежать техногенных катастроф и не думали всё сваливать на искусственный интеллект.
Впереди нас ожидает «Проблема 2038» – данная проблема затронет программы и системы, в которых используется представление времени по стандарту POSIX или UNIX-время. UNIX-время это количество секунд, прошедшее с полуночи 1 января 1970 года. А за термином «UNIX-время» скрывается операционная система Android – основа большинства современных интеллектуальных гаджетов.