15 подписчиков
Наглядная иллюстрация того как сложно приходится специалистам, занимающимся AI alignment.
На картинке самый простой "поворот не туда", тут алгоритм всего лишь не так понял контекст, и эта картинка не беспилотный автомобиль, способный нанести вред людям.
Цели, кажущиеся нам очевидными, ИИ зачастую начинает достигать спустя десятки, а то и сотни корректировок через просчет специалистами всех возможных рисков. Размышляя об этом становится действительно страшно, представляя появление AGI.
Мем смешной, ситуация страшная.
Около минуты
14 ноября 2023