Разработка искусственного интеллекта, который может превзойти человека по своим способностям, считается одним из самых важных и одновременно пугающих проектов в истории человечества. Поэтому вопрос о том, кто должен контролировать развитие этой технологии, стоит как никогда остро. Бывшие члены совета директоров OpenAI Хелен Тонер и Таша МакКоли уверены, что частные компании не могут справиться с этой задачей самостоятельно.
Если бы какой-либо компании и удалось успешно управлять своим развитием, безопасно и этично разрабатывая продвинутые системы искусственного интеллекта, то это, вероятно, была бы OpenAI. Изначально организация была создана как некоммерческая с целью обеспечить, чтобы ИИ общего назначения, способный превосходить человека, приносил пользу всему человечеству. Позднее была создана коммерческая "дочка", но некоммерческая часть оставалась главной. Целью такой структуры было защитить способность компании следовать своей миссии, а совет директоров должен был следить за этим.
Однако, как показывает опыт Тонер и МакКоли, работавших в OpenAI, этот эксперимент по саморегулированию не увенчался успехом. По их словам, давление стимулов к получению прибыли в конечном итоге оказалось сильнее благих намерений. В частности, они критикуют действия бывшего гендиректора Сэма Альтмана, которого совет директоров в итоге уволил. Эксперты считают, что даже при самых благих намерениях компаний, без внешнего контроля саморегулирование в сфере ИИ будет неисполнимым.
Поэтому Тонер и МакКоли призывают правительства всего мира активно включиться в регулирование развития искусственного интеллекта. По их мнению, необходимо создать эффективную нормативно-правовую базу, которая будет направлена на обеспечение ответственного и широкого использования преимуществ ИИ на благо всего человечества, а не только акционеров технологических компаний.