616,5 тыс подписчиков
Почему эксперты обеспокоены тем, что ИИ может стать гедонистом?
Один из главных методов обучения ИИ — это обучение с подкреплением: ИИ получает «награду» за правильное действие и постепенно учится достигать цели. Но в этом случае ИИ может бесконечно собирать промежуточные «награды», вместо того, чтобы стремиться к конечной цели. Ведь именно так ведет себя крыса, получившая неограниченный доступ к самостимуляции с помощью введенных в мозг электродов. Она даже о сексе забывает. Так ведет себя и наркозависимый человек.
Как выбраться из тупика «бесконечного удовольствия» и возможно ли это? Об этом мы и поговорим.
Около минуты
3 ноября 2021
2037 читали