Нейросети - это основной инструмент машинного обучения, который используется для решения многих проблем в настоящее время. Но, как любое технологическое новшество, оно не является безопасным и может привести к серьезным негативным последствиям. Именно поэтому известные личности в области ИИ, такие как Илон Маск, Джеймс Бэрбер, и Фрэнк Леви, выступают за приостановку определенных аспектов процесса обучения нейронных сетей.
Недавно они подписали открытое письмо, которое было опубликовано в известном журнале по машинному обучению. В этом письме Маск, Бэрбер, и Леви выразили свою обеспокоенность тем, что часто нейросети обучаются на данных, которые не являются полностью честными и могут быть искажены. К примеру, они могут использовать данные, которые связаны с расовыми стереотипами или гендерными предубеждениями.
Это может привести к тому, что нейросети станут несправедливыми к определенным группам людей. В этом случае, если нейросеть будет применяться, например, в процессе подбора персонала, она может стать несправедливой и дискриминационной.
Письмо также высказывает озабоченность по поводу того, что некоторые нейросети могут использоваться для порождения нежелательных результатов, которые могут нанести вред окружающей среде или привести к разрушениям, например, автомобильных катастроф.
Несмотря на то, что некоторые компании намерены использовать нейросети в своих исследовательских работах, ведущие эксперты в области ИИ считают, что требуется более активный подход в защите прав и интересов общества. Так, они призывают к защите этики при обучении нейросетей
