Уход руководителя отдела робототехники OpenAI Кейтлин Калиновски и ее критика в адрес руководства по поводу сделок с Пентагоном и автономных систем могут стать поводом для внутреннего самоанализа в компании. — gizmodo.com
Вас, вероятно, не удивит новость о том, что кто-то только что ушел из OpenAI и широко растиражировал причины своего ухода в социальных сетях. Возможно, вы даже не слышали о Кейтлин Калиновски до этого момента, и ее заявление в сети, в котором, в частности, говорится: «Я глубоко уважаю Сэма и команду, и горжусь тем, что мы построили вместе», само по себе не является захватывающим чтением.
На фоне громкой сделки компании с Пентагоном, которую генеральный директор Сэм Альтман признал «выглядевшей оппортунистической и небрежной», неудивительно, что некоторые сотрудники разочарованы. Конкурент OpenAI, Anthropic, похоже, празднует победу, получая рекордную выручку после того, как успешно подала себя как ИИ-компанию, стремящуюся защитить мир от массовой слежки и автономных боевых роботов.
Я упоминаю все это из-за конкретной роли Калиновски: она возглавляла подразделение робототехники компании.
Таким образом, когда Калиновски заявляет в своем сообщении, что «летальная автономия без человеческого разрешения» заслуживает более глубокого обсуждения, чем то, которое она получила, она, по крайней мере, говорит с некоторой осведомленностью о том, какие роботы на базе ИИ имеются в виду OpenAI.
Согласно отчету Wired за прошлый год, анонимные инсайдеры сообщили, что OpenAI искала специалистов по гуманоидным роботам, или, по крайней мере, специалистов по роботам с частично человекоподобным дизайном. Компания также работала над созданием алгоритмов ИИ, способных «понимать физический мир», и стремилась «наделить роботов возможностью ориентироваться и выполнять задачи».
Объявления о вакансиях, связанных с робототехникой, на сайте OpenAI обычно начинаются со строки: «Наша команда робототехники сосредоточена на раскрытии потенциала робототехники общего назначения и продвижении к интеллекту уровня AGI в динамичных реальных условиях».
Это не означает, что какие-либо цели OpenAI в области робототехники были достигнуты, но когда человек, отвечающий за самую «терминатороподобную» технологию в вашей компании, уходит и убедительно намекает, что это произошло потому, что руководство было слишком «в дружеских отношениях с парнем, который называет себя военным министром», это вполне может стать поводом для топ-менеджеров компании задуматься о смысле своего существования.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl