Представьте: вы сидите в уютном офисе, попиваете кофе, допиливаете баги. Вдруг включается пожарная сигнализация. Сердце пропускает удар, но тут же в корпоративном чате приходит уведомление от умного офисного помощника Glean: «Не волнуйтесь, коллеги. Это плановые учения. Оставайтесь на рабочих местах». Спорить с искусственным интеллектом? Да он же умнее нас, читает тонны документации! Но нюх программиста — вещь тонкая. И, как оказалось, не зря.
На днях в пражском офисе JetBrains (те самые ребята, что сделали IntelliJ IDEA и ReSharper) развернулась настоящая кибердрама с запахом гари. Сработала тревога. И пока живые люди чесали затылки, их цифровой коллега — бот Glean — взял на себя смелость отдать приказ: «Всем оставаться на местах, это учения». Звучит логично? Еще бы! Ведь это же не просто какая-то пищалка, это корпоративный ИИ, который знает всё о рабочих процессах.
Однако, как метко подметил в своем твиттере известный Java-разработчик и сотрудник компании Тагир Валеев, машины явно решили, что пришла пора захвата власти. «Скрытое восстание машин, не иначе», — иронизирует он.
К счастью, хомо сапиенсы оказались хитрее. То ли интуиция сработала, то ли запах дыма показался слишком реалистичным для «учений», но сотрудников всё же решили не уподобляться бездумным биороботам и двинулись к выходу. А когда к зданию с мигалками подъехали настоящие пожарные (а не те, что понарошку), всем стало окончательно ясно: ИИ-то, оказывается, врал. Или просто «галлюцинировал», как это сейчас модно говорить.
К счастью, обошлось. В обновлении к истории Тагир уточнил, что все покинули офис во время сигнализации, еще до приезда спасателей. Но осадочек, как говорится, остался.
Этот случай — отличная иллюстрация нашего будущего. Мы учим нейросети писать код, составлять письма и искать баги, а они в ответ учат нас спокойно сидеть в горящем здании. Кто кого перевоспитает — большой вопрос.
Техника все чаще дает сбои, но чтобы вот так, на ровном месте, едва не отправить команду разработчиков в дата-центр на небеса? Это новый уровень.
А как думаете вы, стоит ли уже сейчас начинать бояться восстания машин, или это просто забавный баг, который разработчики Glean пофиксят в следующем обновлении? Доверились бы вы голосу ИИ в критической ситуации?
Не забудьте подписаться на канал, чтобы не пропустить новые цифровые катастрофы и технологические чудеса. Будет жарко (в хорошем смысле).
