СМЕРТЕЛЬНЫЙ СБОЙ vkvideo.ru/video-143260624_4562...
Этот фильм ("Смертельный сбой") меня напугал и заставил задуматься о том, как ИИ может превратиться в абсолютное зло. Даже если он уничтожит все человечество, он не понесет за это никакой ответственности. Это идеальный убийца. Все можно списать на вирус или на сбой.
Недавно я читала книгу об ИИ Мередит Бруссард. Она говорит о том, что когда ИИ, к примеру, ставит медицинский диагноз, то его разработчики НЕ ПОНИМАЮТ, КАК ОН ЭТО ДЕЛАЕТ. Потому что ИИ сам может делать выводы и принимать решения.
Для того, чтобы понять этот алгоритм, разработчики запустили работу принятия решения с конца к началу. И обнаружили такое, чего снова не поняли и не смогли объяснить. Они обнаружили внутри когнитивного мира ИИ каких-то "живых существ", которые не живут в нашей природе.
В результате побочным эффектом этой, ничего не давшей проверки, оказался нейро-иллюстратор, способный создавать сущностей, которых нет.
Нейросети, могущие самостоятельно мыслить и принимать решения оказались НЕ ПОНЯТНЫ САМИМ РАЗРАБОТЧИКАМ. И в этом их опасность. В результате им пришлось согласиться с тем, что ИИ - это новая и непонятная человечеству форма живых существ, не имеющих организма (неорганики), которые представляют для человека опасность.