В эпоху цифровых технологий мы полагаемся на компьютеры во всём — от управления нашими финансами до контроля за работой атомных электростанций. И в большинстве случаев это доверие оправдано — современные технологии и программное обеспечение работают безупречно.
Однако, когда компьютерные системы дают сбой, последствия могут быть катастрофическими, превращая передовые технологии в смертельную угрозу.
Эти истории — отрезвляющее напоминание о том, что может произойти, когда код даёт сбой в самый неподходящий момент. Вот список из 18 случаев, когда компьютерные ошибки привели к человеческим жертвам.
Радиационная установка Therac-25
В период с 1985 по 1987 год использование аппарата для лучевой терапии Therac-25 привело к трагическим последствиям для шести пациентов. Причиной стали ошибки в программном обеспечении, которые вызвали смертельные дозы радиации.
Проблемы с программным обеспечением возникали, когда операторы вводили команды слишком быстро. Это приводило к тому, что защитный экран не успевал сработать, и мощный электронный луч попадал на пациента. В результате пациенты получали дозы облучения, которые были в 100 раз больше, чем предполагалось. Это вызывало тяжёлые радиационные ожоги и приводило к смерти.
Взрыв ракеты "Ариан-5"
В 1996 году ракета «Ариан-5» Европейского космического агентства потерпела катастрофу через 37 секунд после старта. В результате инцидента были уничтожены четыре спутника стоимостью 500 миллионов долларов.
Во время запуска произошла программная ошибка, которая привела к переполнению памяти компьютера. Система наведения ракеты попыталась преобразовать 64-разрядное число в 16-разрядный формат, но не смогла этого сделать. В результате компьютер решил, что ракета опасно наклоняется, и система управления полетом автоматически уничтожила ракету, чтобы предотвратить её падение на населённые пункты.
Ошибка навигации Марсианского климатического орбитального аппарата
В 1999 году произошла досадная ситуация с марсианским метеорологическим спутником, который находился на орбите и принадлежал НАСА. Стоимость аппарата составляла 125 миллионов долларов.
Причина инцидента заключалась в том, что одна группа использовала метрическую систему измерений, а другая — имперскую. В результате космический аппарат приблизился к Марсу под неверным углом и либо сгорел в атмосфере, либо улетел в открытый космос.
Эта ошибка привела не только к финансовым потерям, но и к тому, что были утрачены многие годы научных исследований, которые могли бы помочь нам лучше понять Марс.
Хаос в багажной системе аэропорта Денвера
В 1995 году в аэропорту Денвера была запущена автоматизированная система обработки багажа. Она должна была облегчить и ускорить процесс сортировки и доставки багажа. Но из-за ошибок в программном обеспечении система начала работать некорректно.
Багаж начал теряться, отправляться не туда, куда нужно, и накапливаться в больших объёмах. Хотя эти проблемы не привели к человеческим жертвам, они создали опасные условия работы и вызвали задержки, которые затруднили реагирование на чрезвычайные ситуации.
Торговый алгоритм Knight Capital
В 2012 году система, предназначенная для покупки и продажи акций, на 45 минут дала сбой. В этот период она совершила множество случайных сделок, которые обошлись компании в 440 миллионов долларов и едва не привели её к краху.
Причина сбоя — активация старого тестового кода, которая произошла случайно. Из-за этого система постоянно покупала акции по завышенной цене и продавала их по заниженной. В результате несколько сотрудников потеряли работу, а крах компании мог затронуть тысячи семей.
Непреднамеренное ускорение Toyota
В период с 2000 по 2010 год автомобили Toyota сталкивались с неожиданными проблемами, связанными с ускорением, что привело к трагическим последствиям: более 80 человек погибли, сотни получили травмы.
Специалисты НАСА установили, что неполадки в программном обеспечении электронной системы управления дроссельной заслонкой могут вызвать резкое ускорение, которое невозможно контролировать водителю. Эта проблема оказалась настолько серьёзной, что Toyota была вынуждена отозвать миллионы автомобилей и выплатить миллиарды долларов в качестве компенсации семьям пострадавших.
Отказ ракетной системы Patriot.
Во время войны в Персидском заливе в 1991 году программная ошибка в системах противоракетной обороны Patriot позволила иракской ракете Scud поразить казармы армии США в Саудовской Аравии. В результате погибли 28 солдат. Проблема заключалась в округлении внутренних часов системы, которое накапливалось с течением времени и приводило к потере отслеживания приближающихся ракет. После более чем 100 часов непрерывной работы систему отключили на несколько секунд. Этого времени оказалось достаточно для того, чтобы ракета Scud пролетела полмили и достигла цели.
Компьютерный сбой на корабле USS Yorktown
В 1997 году американский крейсер "Йорктаун" стоимостью миллиард долларов оказался в воде на три часа из-за ошибки экипажа. Один из моряков случайно ввел ноль в поле базы данных, и система Windows NT не справилась с делением на ноль. Двигатели корабля остановились, и его пришлось буксировать обратно в порт. Это сделало крейсер уязвимым, а его экипаж — потенциально опасным.
Сбой в отправке Лондонской службы скорой помощи
В 1992 году, в первый же день работы новой компьютерной системы диспетчеризации Лондонской службы скорой помощи, произошла масштабная ошибка, которая привела к трагическим последствиям. Система не смогла справиться с большим количеством вызовов, в результате чего несколько машин скорой помощи были направлены в одно место, а другие экстренные ситуации остались без внимания. Время ожидания помощи увеличилось, и некоторые пациенты погибли, так и не дождавшись её.
Сбои в работе системы управления воздушным движением
В течение многих лет из-за многочисленных проблем в работе систем управления воздушным движением возникала угроза для жизни тысяч людей. В 2014 году в Чикаго произошёл сбой в работе компьютера в центре управления, из-за чего было отменено более двух тысяч рейсов. Это привело к задержкам пассажиров и возникновению опасных ситуаций, когда самолёты приходилось перенаправлять в незнакомые зоны.
Такие сбои создают большую нагрузку на резервные системы и диспетчеров, которые должны принимать решения за считанные секунды, чтобы предотвратить столкновения в воздухе.
Ошибки в работе инсулиновой помпы медицинского устройства
Сбои в работе программного обеспечения инсулиновых помп привели к тому, что пациенты с сахарным диабетом получали неверные дозы инсулина. Это вызвало опасные скачки уровня сахара в крови и стало причиной нескольких смертей.
Некоторые помпы выдавали слишком много инсулина, вызывая тяжёлую гипогликемию. Другие же не выдавали инсулин в нужном количестве, что приводило к диабетическому кетоацидозу.
Эти устройства являются жизненно важными для пациентов с сахарным диабетом. Любая неисправность может привести к трагическим последствиям.
Системы безопасности атомных электростанций
Сбои в работе компьютеров на ядерных объектах не раз приводили к отключению систем безопасности. На АЭС в Дэвис-Бесс в Огайо ошибки в программировании помешали операторам заметить отверстие в корпусе реактора. Это могло вызвать катастрофу. На других заводах похожие проблемы привели к аварийным остановкам. Под угрозой оказались близлежащие города.
Неисправности в системе управления дверью тюрьмы
В тюрьмах строгого режима происходили сбои в работе компьютеров. Из-за этого двери камер неожиданно открывались, вызывая беспорядки и насилие. В одном случае из-за программного сбоя одновременно открылись двери более ста камер. Это позволило опасным заключенным сбежать и напасть на охранников и других заключенных. Такие системы крайне важны для поддержания порядка и защиты жизней в сложных условиях.
Сбои программного обеспечения больничного аппарата искусственной вентиляции легких
Оборудование для поддержания жизни, которое обеспечивает дыхание пациентов в тяжёлом состоянии, работало с нарушениями из-за ошибок в программном обеспечении. Это приводило к тому, что помощь оказывалась не в полном объёме.
Некоторые устройства неожиданно отключались, а другие подавали воздух с неправильным давлением или уровнем кислорода. Если такие устройства выходят из строя, то пациенты могут получить серьёзные повреждения мозга или умереть в течение нескольких минут, если резервные системы не сработают должным образом.
Ошибки банковской системы, влияющие на работу Служб экстренной помощи
Сбои в работе банковских систем лишают людей доступа к деньгам в чрезвычайных ситуациях. Это может привести к гибели людей, особенно когда речь идет о стихийных бедствиях или неотложной медицинской помощи. Люди не могут оплатить топливо для эвакуации или лечение. Финансовые проблемы усугубляют и без того сложные кризисы, превращая их в смертельные.
Сбои в работе навигационной системы GPS
Проблемы с программным обеспечением GPS-навигации становились причиной опасных ситуаций на дорогах. В частности, водители попадали в неприятности на закрытых трассах, вблизи водоёмов или в районах с высоким уровнем преступности.
В результате нескольких трагических случаев люди следовали указаниям GPS-навигации, что приводило к падениям с обрывов, в реки или под колёса встречных поездов. Кроме того, системы GPS-навигации иногда указывали неверные маршруты к местам аварий, что приводило к задержкам в работе экстренных служб.
Внезапные сбои в автоматической торговле
В результате этого неожиданного обвала рынка, который произошёл в 2010 году, пенсионные накопления многих людей были уничтожены, а некоторые инвесторы оказались на грани финансового краха. Хотя эти события не привели к человеческим жертвам, они вызвали серьёзные проблемы со здоровьем, связанные со стрессом, и заставили некоторых людей пойти на крайние меры.
Алгоритмы, используемые в высокочастотной торговле, стали причиной внезапного обвала рынка, который за считанные минуты привёл к потере рыночной стоимости почти на 1 триллион долларов. Это произошло из-за ошибок в работе этих алгоритмов.
Ошибки программного обеспечения для медицинской визуализации
Программное обеспечение для радиологической диагностики не способно выявить такие опасные для жизни заболевания, как рак, аневризмы и переломы. Это приводит к задержке начала лечения и предотвратимым смертям.
Некоторые программы дают ошибочные результаты, из-за которых не обнаруживаются явные отклонения. Другие же программы дают ложные положительные результаты, что приводит к ненужным процедурам.
Когда врачи полагаются на эти системы для постановки диагноза, ошибки в программном обеспечении могут иметь фатальные последствия.
Человеческие издержки цифровой зависимости
Эти трагические события напоминают нам о том, что за каждым сбоем в работе компьютеров стоят реальные люди, чьи жизни навсегда изменились из-за нескольких строк ошибочного кода.
Продолжая автоматизировать критически важные системы, мы должны помнить, что программные ошибки — это не просто технические проблемы, это вопрос жизни и смерти. Инженеры и политики должны создать системы, которые будут достаточно надёжными, чтобы справиться с возложенной на них ответственностью, ведь когда компьютеры выходят из строя, люди расплачиваются за это в первую очередь.