Калифорния стала первым штатом США, принявшим закон, регулирующий работу ИИ чат-ботов.
С 2026 года такие компании, как *Meta, Character AI и Replika, обязаны соблюдать строгие протоколы безопасности. Эти меры включают проверку возраста пользователей, механизмы реагирования на случаи самоповреждения и обязательное уведомление пользователей о том, что они общаются с ИИ. Закон был принят в ответ на тенденциозное увлечение американцами чат-ботами не как инструментом, а как источником реалистичного диалога и исчерпывающей информации.
По информации портала Digital Trends, разработка таких чат-ботов вызывает беспокойство, поскольку они могут имитировать человеческое общение, что делает их привлекательными для психически уязвимых людей. Это может привести к суицидам и самоповреждениям, распространению дезинформации и эксплуатации. Принятие закона направлено на предотвращение таких последствий.
Закон акцентирует внимание на защите детей для повышения прозрачности использования и предотвращения потенциально вредного взаимодействия. Это также создаёт прецедент для привлечения технологических компаний к ответственности. Все перечисленные случаи создают судебную перспективу.
* организация признана экстремистской, её деятельность запрещена на территории России.