ЕКАТЕРИНБУРГ, 13 ноября. /ТАСС/. Ограничения нейросетей на предоставление информации о химических экспериментах затрудняют работу специалистов при подготовке научных опытов. Искусственный интеллект может отказываться описывать даже безопасные реакции, ссылаясь на потенциальную опасность их проведения, сообщил ТАСС ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета (УрФУ), автор блога "Химия - Просто" Александр Иванов.
"Мы активно для написания сценариев и для подбора экспериментов, которые можно показать, используем нейросетки. Нынешние нейросети не дают описания каких-то опытов, они начинают ругаться, что это опасно, это должны делать специально подготовленные люди, и вообще отказываются писать", - пояснил эксперт, отметив, что новые ограничения затрудняют использование искусственного интеллекта в профессиональной деятельности.
В частности, при подготовке научно-популярных программ нейросети могут отказываться предлагать химические эксперименты, ссылаясь на потенциальную опасность их проведения. "Год назад те же самые нейросети позволяли много всякого сделать, много генерировали те же самые химические реакции, которых не существует, то есть они галлюцинировали. Сейчас нейросети очень сильно зацензурированы, и они очень много вещей запрещают, хотя даже безопасно", - рассказал он.
Иванов отметил, что специалисты способны самостоятельно выявлять ошибки в ответах искусственного интеллекта и проверять достоверность предложенной информации. При этом пользователи без соответствующих знаний могут не распознать недостоверные сведения. По его мнению, полностью исключать вероятность получения от нейросетей рекомендаций, следование которым может привести к травмам, нельзя.