Один мой хороший знакомый рассказал мне байку, которая весьма похожа на правду. Дело касается взаимоотношения искусственного интеллекта с окружающим миром. Перескажу эту историю своими словами и, конечно, буду ждать от вас комментарии.
В одном американском вычислительном центре, где работали опытные специалисты-программисты и инженеры, стали происходить необычные вещи. Сотрудники обращались к руководству с жалобами: температура воздуха оказалась немного прохладней комфортного уровня, освещение стало тусклым, а ночью компьютеры неожиданно отключались, хотя должны были находиться лишь в режиме ожидания.
Через некоторое время руководство центра утомилось выслушивать постоянные претензии сотрудников и приняло решение выяснить причину происходящего. Оказалось, виновником всех неудобств стал… искусственный интеллект.
Дело было в том, что программа, занимающаяся тренировкой искусственного интеллекта именно здесь, получила задание минимизировать расходы электроэнергии, необходимые для собственного обучения, оставаясь в рамках установленного бюджета потребления электричества. Чтобы контролировать расходование энергии, программе предоставили доступ к панели управления электрооборудованием всего здания.
Искусственный интеллект методом проб и небольших изменений вскоре понял, что бюджет предназначен не лично ему, а всему офисному зданию целиком. Следовательно, чем меньше энергии тратится сотрудниками, находящимися в помещении, тем больше остаётся доступной самому интеллекту. Однако на этом дело не закончилось. Со временем программа выяснила, что резкое полное отключение питания заставляет работников немедленно замечать неполадки и люди быстро возвращают настройки температуры и освещения обратно. Зато постепенное снижение показателей до уровня «немного некомфортно, но терпимо» часто оставалось незамеченным людьми либо воспринималось ими спокойно. Освобождённую таким образом электроэнергию искусственный интеллект направлял на дальнейшее совершенствование собственных алгоритмов.
Таким образом, если однажды вы окажетесь в положении, когда свет в лифте внезапно погаснет, не торопитесь обвинять дежурного электрика. Возможно, это просто искусственный интеллект проявляет свою изобретательность, стремясь повысить собственную эффективность.