Некоторые типы искусственного интеллекта могут начать галлюцинировать, если они недостаточно отдыхают, как это делают люди.
Одна из отличительных черт машин заключается в том, что им не нужно спать, в отличие от людей и любых других существ с центральной нервной системой. Однако когда-нибудь вашему тостеру может понадобиться время от времени вздремнуть, как и вашей машине, холодильнику и всему остальному, что революционизировалось с появлением практических технологий искусственного интеллекта.
Изменения произойдут, когда системы ИИ будут включены в широкий спектр устройств, чтобы помочь нам в повседневной жизни.
Ученые осознали это, когда работали над созданием нейронных сетей, которые очень похожи на то, как люди и другие биологические системы учатся видеть. Они изучали, как моделируемые сети реагируют на неконтролируемое обучение словарю. В этом виде деятельности сети приступают к классификации объектов, не имея предварительных примеров для их сравнения. Представьте, что вы передаете ребенку множество изображений экзотических животных и просите его сгруппировать похожие изображения. Ребенок может не знать, что такое антилопа, но он поместит их в отдельную кучу, например, от львов или пингвинов.
Скорее всего, ни один детский учитель не удивится тому, что сети стали нестабильными после непрерывных периодов обучения. Однако, когда сети подвергли воздействию состояний, аналогичных волнам, которые испытывает живой мозг во время сна, стабильность была восстановлена. Это было похоже на то, как если бы нейронным сетям давали эквивалент хорошего долгого сна.
Такая нестабильность характерна не для всех сетей. Проблема возникает только при обучении биологически реалистичных процессоров или при попытке понять саму биологию. Подавляющее большинство исследователей машинного обучения, глубокого обучения и искусственного интеллекта никогда не сталкиваются с этой нестабильностью, потому что в тех самых искусственных системах, которые они изучают, они могут позволить себе роскошь выполнять математические операции, аналогов которым нет в живых нейронах.
Решение подвергнуть биологически реалистичные сети искусственному аналогу сна было почти последней попыткой их стабилизировать. Они спонтанно генерировали образы, аналогичные галлюцинациям. Проводились эксперименты с различными типами числовых шумов, примерно сопоставимых со статическими помехами, которые могут возникнуть между станциями при настройке радио. Наилучшие результаты были получены, когда использовались шум с широким диапазоном частот и амплитуд. Шум имитирует входные данные, получаемые нейронами вашего мозга во время медленноволнового сна, без которого люди не могут жить.
Результаты показывают, что как в системах искусственного, так и в естественном интеллекте медленноволновый сон может действовать, чтобы гарантировать, что нейроны сохранят свою стабильность и не будут галлюцинировать.
Соноподобные состояния в нейронных сетях сильно отличаются от режима, в который переходит ваш компьютер после определенного периода бездействия. Обычный компьютер, который перешел в «спящий режим», фактически находится в состоянии приостановленной анимации, при этом вся вычислительная активность заморожена во времени. А давний совет - попытаться «выключить компьютер и снова включить», когда компьютер дает сбой, равносилен подвергнуть вашу машину кратковременной смерти мозга.
Такой режим сна не поможет решить проблему нестабильной нейронной сети. А включение и выключение питания просто перезагрузит сеть и отменит все предыдущие тренировки, что фактически приведет к серьезной амнезии в сети. В нейронных сетях, а также в живых существах состояние, похожее на сон, - это не бездействие, а другой вид активности, который имеет решающее значение для правильного функционирования нейронов.
По мере того, как исследователи создают сети, которые все больше напоминают живую нервную систему, вероятно, не стоит удивляться тому, что они, похоже, нуждаются во сне так же, как и мы. Точно так же мы ожидаем, что сложные системы искусственного интеллекта помогут нам более полно понять сон и другие характеристики биологических систем. Тостер будущего может дать новое понимание работы нашего мозга - в дополнение к теплым и хрустящим блюдам на завтрак.