Команда студентов Московского авиационного института (МАИ) при поддержке гранта Российского научного фонда разрабатывает программный модуль на основе искусственного интеллекта (ИИ) для оценки рисков при одновременном приеме трех и более препаратов. Работа ведется на базе Российского экономического университета имени Г.В. Плеханова. Подобные схемы лечения часто применяются при онкологии и наличии нескольких хронических заболеваний, когда вероятность побочных эффектов многократно возрастает. Технологическая...

Эксперты на InfoQ рисуют серьёзную картину. Самые опасные атаки на ИИ-системы лезут через стыки: там, где недоверенный ввод встречается с системными инструкциями, внешние данные попадают в обучающие пайплайны, а модель получает доступ к инструментам и привилегиям. Авторы говорят о модели как о непредсказуемом агенте, а не о надёжной библиотеке...