Глава OpenAI Сэм Альтман предупредил, что из-за удобства мы даём ИИ-агентам слишком много контроля без нужных мер безопасности. Он признался, что сам нарушил собственное правило — не давать Codex полный доступ, но сделал это уже через два часа. «Меня тревожит, что мощность и удобство этого настолько высоки, а сбои бывают настолько редко, что все будут думать: “Да плевать, все будет нормально”», — сказал Альтман на встрече с разработчиками. Он объяснил, что даже после скептического старта быстро дал ИИ-агенту полный доступ к своему компьютеру, потому что «агент ведёт себя действительно разумно». Альтман уверен, что так поступают и другие… Подробнее
Глава OpenAI признал нарушение собственного правила ИИ безопасности
27 января27 янв
1
~1 мин