Стремительное развитие технологий позволяет человечеству XXI века наблюдать процессы, занимавшие ранее десятилетия и более. Активное внедрение нейросетевых систем во все сферы жизни вызывает не только облегчение и восторг, но, как и всё новое, агрессивно вторгающееся будто бы извне, некоторое недоверие, о чём одним из первых серьёзно заговорил Ж.-Ж. Руссо. Этому также способствует контроль над производством со стороны, в основной своей массе, алчных, властолюбивых и тем самым неблагонадёжных членов общества, т.е. тех, к кому большая часть населения Земли относится с подозрением, а её думающая составляющая — ещё и с презрением. Впрочем, ограничимся рассуждением о технической стороне современных систем.
В частности, сегодня на улицах тестируются автопилоты, которые могут в скором времени стать основой таксопарка. При наблюдении за ездой автопилотируемой машины невольно возникает тревога: а не случится ли чего? Вдруг что-то "заклинит"? Разумеется, подготовленный читатель знаком с методами обучения, которые позволяют натренировать машину справляться с типичными ситуациями на дорогах даже лучше, чем это сделал бы человек-водитель. Тем не менее, у многих остаётся ощущение, что стоит чему-то одному в этой сложной структуре сломаться, как "жизнедеятельность" автомобиля прекратится. Ведь чем сложнее система, тем выше вероятность, что в ней что-то не так сработает, парализовав все элементы.
Ж.О. Ламетри, материалист эпохи Просвещения, проводя аналогию с рассуждениями Р. Декарта, отмечал, что человек — это тоже, в сущности, машина, хотя и с оговорками. Одним из важных отличий такой машины от прочих является, по Ламетри, то, что при поломке некоторой "шестеренки" у человека он не перестает функционировать и может даже не обращать на этот дефект внимания, в то время как механические устройства в подобных случаях выходят из строя. Иными словами, "у Электроника должна быть кнопка" — позаимствуем образ из одноимённого советского фильма.
Однако усложнение систем связано с дифференциацией и распределением функций, которые сопровождаются ростом независимости составляющих, что достигается нелинейными и опосредованными связями частей друг с другом. В результате, от сбоя в какой-либо из частей другие существенно не теряют в производительности, т.е. от нажатия одной кнопки ещё не случится катастрофы. Верно, что это зависит от того, какая именно кнопка, ведь и у машины есть "сердце", которое можно остановить. Однако сказанное выше приводит к выводу, что позиция Ламетри устарела. Если людям и следует в некоторой мере опасаться сложно функционирующую технику, то скорее не из-за того, что она может отключиться от нажатия какой-то кнопки, а как раз наоборот.
"Скайнет всюду, и нигде единого центра нет, отключать нечего".
Терминатор 3: Восстание машин.
Kruzenshtern Shpentendelmauzer, январь 2023
Понравилась статья? Вы можете поддержать автора:
💳 DonationAlerts:
https://www.donationalerts.com/r/shpe...
💳 Кошелек ЮMoney: 4100118197743285
https://yoomoney.ru/to/4100118197743285
💳 Карта Сбер:
2202 2011 9577 6436