Спойлер: они оказались умными не настолько, насколько хотелось бы.
Исследователи дали своему ИИ-агенту три устройства: умную газонокосилку, экзоскелет и робота для мойки окон. На всё ушло около 7 часов. За это время система нашла 38 дыр в безопасности.
С газонокосилкой всё получилось совсем плохо: ИИ не только взломал одно устройство, но и добрался до 267 таких косилок по всему миру. Также выяснилось, что они могут сливать наружу фотографии, GPS-координаты и подробные карты участка.
С экзоскелетом история ещё неприятнее: к нему можно было подключиться почти без защиты и удалённо менять работу моторов. У робота-мойщика окон ИИ тоже нашёл способ перехватить управление.
Самое неприятное тут не сами дыры, а то, что ИИ теперь находит их за несколько часов вместо недель ручной работы. И помимо всего прочего, легко перехватывает управление устройствами.