Сэм Альтман предложил создать агентство, которое бы лицензировало разработку крупномасштабных моделей ИИ
Во вторник Сэм Альтман, исполнительный директор стартапа OpenAI, выступил в конгрессе США и рассказал о необходимости регулировать технологии искусственного интеллекта.
Г-н Альтман сказал, что технологии ИИ могут уничтожить некоторые рабочие места, но также и создать новые. Он предложил создать агентство, которое будет выдавать лицензии на разработку крупномасштабных моделей ИИ, разработает правила техники безопасности и тесты, которые должны пройти модели ИИ, прежде чем они будут выпущены в свет.
«Считаем, что преимущества инструментов, которые мы создали, значительно перевешивают риски, но обеспечение безопасности жизненно важно для нашей работы», — сказал г-н Альтман.
Члены подкомитета предложили создать независимое агентство для надзора за ИИ; правила, которые обяжут компании раскрывать, как работают их модели и какие наборы данных они используют; и антимонопольные правила, чтобы предотвратить монополизацию зарождающегося рынка такими компаниями, как Microsoft и Google.
Сара Майерс Уэст, управляющий директор Центра политических исследований AI Now Institute сказала, что предложения г-на Альтмана должны включать ограничения на использование ИИ полицией. Она отметила, что г-н Альтман не представил доказательств замедления разработки ChatGPT. «Это какая-то ирония, когда видишь, что люди беспокоятся о вреде, который быстро запускает в коммерческое использование систему, ответственную за этот самый вред».
Некоторые члены подкомитета выразили нежелание слишком сильно сдерживать отрасль, которая имеет большие экономические перспективы для США и напрямую конкурирует с Китаем.
Гэри Маркус, профессор и критик технологии искусственного интеллекта отметил, что OpenAI не обеспечивает прозрачности в отношении данных, которые компания использует для разработки своих систем. Он выразил сомнение в предположении Альтмана о том, что новые рабочие места заменят рабочие места, уничтоженные ИИ.
«Здесь у нас есть беспрецедентные возможности, но мы также сталкиваемся с настоящим штормом корпоративной безответственности, широкомасштабным развертыванием, отсутствием надлежащего регулирования», — сказал доктор Маркус.
Европарламент уже работает над международными стандартами использования ИИ. На слушаниях Кристина Монтгомери, директор IBM по вопросам конфиденциальности и доверия, призвала последовать примеру Европы, принять закон об искусственном интеллекте, в котором будут прописаны различные уровни риска. По ее мнению, необходимы правила, ориентированные на конкретные способы использования ИИ, а не на саму технологию. «По своей сути ИИ — это просто инструмент, а инструменты могут служить разным целям».