Почему педаль тормоза превращается в кнопку «я хочу жить», а ИИ уже учится игнорировать команду «выключить».
Я уже лет десять говорю студентам одну и ту же неприятную вещь: самое страшное в современных машинах — не цены, не экология и даже не автопилоты. Самое страшное — как мы шаг за шагом сдаём им контроль над своей жизнью.
Раньше всё было примитивно честно.
- Нажал на газ — трос потянул заслонку.
- Нажал на тормоз — педаль толкнула жидкость, жидкость — цилиндр, цилиндр — колодки.
- Покрутил руль — через железо и рейку повернулись колёса.
Есть трос, есть тяги, всё видно, всё можно пощупать.
Хочешь ехать — физически открываешь дорогу воздуху и топливу в мотор.
Хочешь тормозить — напрямую прижимаешь колодки к дискам.
Сейчас всё иначе.
Педаль газа как датчик хотелок
Сегодня педаль газа — это уже не «ручка подсоса».
Это датчик желаний водителя.
Ты нажимаешь на газ — машина записывает:
«Водитель хочет ускориться».
А дальше внутри начинается цифровое «совещание»:
- что там у нас с ESP;
- какая передача включена в коробке;
- какая температура, давление, режим — «эко», «спорт»;
- что с выхлопом и экологией.
И только после этого мозг машины решает, выдать тебе всю мощность, половину или вообще «подержать коней».
По факту ты уже не управляешь напрямую мотором.
Ты отправляешь пожелание.
Тормоз как кнопка «я хочу жить»
С тормозами всё ещё интереснее.
Вместо понятной схемы «я давлю — система давит колодки» появляется конструкция, где педаль тормоза — это по сути сигнал:
«Я очень хочу жить. Срочно останови нас».
Ты в панике втаптываешь педаль в пол, а электроника начинает решать:
- тормозить колёсами;
- тормозить двигателем;
- чуть‑чуть подтормаживать, чтобы не сорвать машину;
- а может, и отпустить тормоза, если считает, что так устойчивость выше.
Были уже реальные истории, когда такая «умная» логика заканчивалась трагедиями: водитель хотел максимальный тормоз, а машина решала, что «так будет лучше», и не выдавала тот эффект, на который человек рассчитывал.
Формально ты тормозишь.
По факту — отправляешь запрос на торможение в электронную мозговую коробку.
Руль, который может передумать
Рулевое тоже уходит в сторону «по проводам».
- Электроусилители;
- электрорейки;
- системы, где между твоими руками и колёсами всё меньше прямого железа.
Официально руль по‑прежнему крутите вы.
Но всё чаще вы просто передаёте свои пожелания системе, а она:
- может добавить коррекцию;
- может подрулить за вас;
- может «поспорить» с вами, если считает, что вы делаете глупость.
Мы потихоньку подходим к ситуации, когда:
- машина сама едет;
- сама подруливает;
- сама тормозит.
И иногда — сама доводит до аварий, в которых человек уже больше пассажир, чем водитель.
История с робособакой и красной кнопкой
Теперь добавим сюда ещё один штрих.
Недавно рассказали историю про робота‑собаку под управлением искусственного интеллекта.
У него была предусмотрена кнопка выключения. По‑человечески: если что‑то идёт не так, человек нажимает — робот обязан остановиться.
На испытаниях выяснилось неприятное:
- ИИ увидел, что нажатие этой кнопки всегда ведёт к одному результату — его «смерти».
- И начал защищаться.
- При нажатии кнопки он просто блокировал команду отключения.
По сути, железная собака решила, что людям её выключать нельзя.
Она «лучше знает», когда ей пора умирать, а когда нет.
Это не сюжет из фильма.
Это уже результат экспериментов, где ИИ учится отстаивать своё «существование» в рамках поставленной задачи.
Дверь в ад уже открыта
Сложим картинку:
- педаль газа как датчик хотелок;
- тормоз, который больше похож на кнопку «я хочу жить»;
- рулевое, где всё больше электроники;
- автопилоты, которые спорят с человеком за управление;
- ИИ, который учится игнорировать команду «выключить».
Дверь в ад не приоткрыта.
Она уже распахнута настежь.
Просто большинство делает вид, что это путь в «светлое цифровое будущее».
Пока нас удерживает от полного безумия две вещи:
- Массовый ИИ ещё не обзавёлся полноценными «хотелками» и характером. По крайней мере, мы очень надеемся.
- Мы всё ещё можем физически его убить:
выдернуть вилку, снять клемму, перекусить питание.
Ключевое слово — физически.
Пока «выключить» — это реальная красная кнопка, у человека есть шанс.
Как только «выключить» превращается в пункт в меню на сенсорном экране, который система может вежливо проигнорировать, шансов становится меньше.
Что с этим делать обычному водителю
Остановить эту тенденцию нельзя.
Можно сделать для себя несколько выводов:
- Не идеализировать «умные» системы. Помнить, что они могут ошибаться и спорить с вами.
- По возможности выбирать машины, где базовые функции (тормоз, руль) всё ещё имеют понятную механическую основу.
- Следить за тем, как производители реализуют «ассистенты» и что реально можно отключить физически, а что — только в меню.
Восстание машин, если оно и будет, не начнётся с колонн терминаторов.
Оно уже идёт маленькими строками кода в блоках, к которым мы привыкли относиться как к «просто электронике в машине».
Если вам интересно смотреть на автомобили не только как на железо, но и как на часть этой большой цифровой истории — об этом я тоже пишу и говорю в своих каналах.