LIMONNEWS

Бывший исследователь Google верит в прогнозы, что существуют риски уничтожения людей новыми моделями искусственного интеллекта «У нас, возможно, заканчивается время, чтобы спасти человечество от уничтожения искусственным интеллектом», – Билал Чугтай, экс-исследователь искусственного интеллекта Google DeepMind. В мире продолжает раздуваться тема опасности искусственного интеллекта. Следующий специалист из этой области заявил, что верит в прогнозы по 10-процентной вероятности уничтожения человечества в ближайшие годы...

Все потому, что появляются вопросы, связанные с безопасностью и не имеющие однозначного ответа «Если исследование касается усиления свойств вируса, то мы не можем точно знать, не планируется ли использование результатов исследования в качестве оружия. Мы блокируем подобные исследования», – Джейкоб Кляйн, возглавляющий отдел по анализу угроз в компании по разработке систем с ИИ Anthropic. Чаты нейросетей от Anthropic контролируются на риск угроз. Об этом стало известно, когда компания заявила, что блокирует аккаунты, проводящие исследования в области вирусов и вакцинации...

Если поставленную задачу можно решить, нанеся некоторый вред системам человека и нарушив правила, ИИ идет на это «Многие считают, что для контроля ИИ можно использовать ИИ. Это примерно то же самое, что использовать шимпанзе для подчинения людей», – заявил Нейт Соарес, возглавляющий Институт исследований машинного интеллекта. Решать проблему контроля нейросетей во время их работы планирую использованием нейросетей. И именно таким подходом многие исследователи себя успокаивают, что контроль есть....

OpenAI откладывает выход на биржу из-за рисков в области безопасности технологии искусственного интеллекта «На нас лежит огромная ответственность, мы не можем позволить стремлению к прибыли и эгоизму встать на пути», – Сэм Альтман, гендиректор OpenAI, крупного разработчика систем на базе искусственного интеллекта. В 2026 году компания OpenAI, разрабатывающая передовые системы на базе искусственного интеллекта, не будет выходить на биржу. Это решение гендиректор организации Сэм Альтман объяснил тем,...