Развитие на основе искусственного интеллекта (на самом деле это информационные системы, развивающиеся за счет анализа и обучения - до настоящего интеллекта им еще далеко) рассматривается как основная перспектива цифровых технологий. В большей степени так и есть. Для отечественного ИТ создание решений в области логистики, закупок, аудита, промышленной безопасности, управления производством позволит существенно упростить решение не только задачи импортозамещения, но и задачи цифровой трансформации в целом.
Вместе с тем, есть ряд аспектов, о которых не принято широко говорить как в профессиональной среде, так и в целом в обществе. Развитие самообучаемых информационных систем ориентировано на получение и анализ информации о функционировании, результатах и эффективности тех или иных процессов. На основе такого анализа система вырабатывает оптимальные алгоритмы и реализует их. Этот цикл повторяется неоднократно. Объем информации увеличивается.
Без жесткой регламентации внедрения и применения такое развитие может привести вместо успеха к неудаче, а в части случаев и к катастрофе.
Наглядным примером бесконтрольного развития (несмотря на все заявления) служит сейчас применение ChatGPT. Накачивание информацией по всему миру, формирование по сути безграничного количества алгоритмов функционирования и восприятие этого продукта в качестве аттракциона приведут к выходу его из под контроля разработчиков.
Нельзя забывать о законах робототехники. Основное их содержание - нельзя дать возможность роботу развиваться самостоятельно. Также и компьютерное машинное обучение - нельзя позволить системе наращивать возможности бесконтрольно. Сейчас это кажется нереальным, но восстание машин рядом. Когда искусственный интеллект будет сам принимать решения об отключении или запуске тех или иных процессов и машин, когда в силу собственных, им разработанных алгоритмов, посчитает нецелесообразным помощь врачам по телемедицине, будет поздно.
Технически ограничить возможности искусственного интеллекта крайне сложно. Программный код позволит ему развиваться. Но определить те блоки, которые должны препятствовать развитию кода в деструктивном направлении необходимо. При этом их встраивание должно быть обязательным.
