Исследователи из лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (MIT) разработали компьютерную систему, которая самостоятельно добавляет реалистичные звуки к немым видео. Хотя технология находится в зачаточном состоянии, это шаг к автоматизации звуковых эффектов для фильмов и анимационного кино.
Нейросети Visually Indicated Sounds скормили порядка 1000 видеороликов, на которых барабанная палочка царапает и ударяет по объектам реального мира. На основе этих видео нейросеть связала звук с разными типами поверхности, отличая удар по дереву от кожи или камня. Затем исследователи предоставили нейросети потренироваться на беззвучных видео, давая ИИ возможность создать подходящий звук самостоятельно.
Технология пока еще далека от совершенства и часто делает ошибки в длинных видео. К примеру, нейросеть создавала звук, когда палочка ни обо что не ударялась.