133 подписчика
Amazon выступил со своей системой ИИ. И она страдает жесткими галлюцинациями
Компания Amazon с должной помпой на прошлой неделе презентовала чат-бот Q. Помпа уже в названии: у компании Open AI якобы есть секретная разработка, Q* (кью-стар), которая обладает мегаумом и погубит человечество.
Но продукт от Open AI никто не видел (и он никого не погубил). А вот Q от Amazon уже наломал дров. Бот создан для магазинов-партнеров. И он активно путает реальность с вымыслом, а также разглашает конфиденциальные данные. Один из инцидентов был помечен как sev2, это означает, что инженеров можно будить ночью. Серьезный инцидент.
Amazon, само собой, все отрицает, и говорит, что продукт отменный.
С вами был научный журналист Евгений Арсюхин.
Около минуты
6 декабря 2023