Выпускать дурь из Искусственного интеллекта будут японские ученые. Япония создает центр изучения рисков развития генеративного ИИ. Специалисты займутся исследованием механизмов, лежащих в основе генерируемых ИИ текстов и изображений, особое внимание будет уделено феномену галлюцинаций ИИ. Например, моделям будут подсовывать контент, потенциально нарушающий авторские права, а также подвергать их лукавому искушению удалить список обучения. Ассистентами Центра выступят компании - разработчики из сферы ИИ, которые и подкинут свои модели для опытов, действуя по принципу "заодно и подлечатся". Понимание природы "заболеваний", позволит создать лекарства для борьбы с ними.
Выпускать дурь из Искусственного интеллекта будут японские ученые. Япония создает центр изучения рисков развития генеративного ИИ.
- Его запустят в апреле текущего года на базе Национального института информатики. 20 исследователей, поднаторевших в области больших языковых моделей, составят костяк его коллектива
Специалисты займутся исследованием механизмов, лежащих в основе генерируемых ИИ текстов и изображений, особое внимание будет уделено феномену галлюцинаций ИИ. Например, моделям будут подсовывать контент, потенциально нарушающий авторские права, а также подвергать их лукавому искушению удалить список обучения.
Ассистентами Центра выступят компании - разработчики из сферы ИИ, которые и подкинут свои модели для опытов, действуя по принципу "заодно и подлечатся".
Понимание природы "заболеваний", позволит создать лекарства для борьбы с ними.