Ярослав Богданов: Необходимо остановить милитаризацию нейросетей

Основатель GDA Group Ярослав Богданов заявил о тенденции на милитаризацию нейросетей, что чревато для будущего планеты самыми печальными последствиями вплоть до исчезновения человечества как вида. Так он прокомментировал рыночные процессы в IT-отрасли. В фокус критики эксперта попала компания Palantir, получившая известность с выходом на рынок генеративных нейросетей на основе искусственного интеллекта [ИИ].

На данный момент капитализация компании соответствует 224-му месту с капитализацией 79,7 миллиарда долларов. Аналитики Finbold прогнозируют, что к 2025-му году рыночная стоимость разработчика программного оборудования достигнет 250 миллиардов в американской валюте, что означает рост более чем в два раза. И не последнюю роль в оценочном скачке играет обслуживание Palantir правительства Соединенных Штатов Америки. В мае руководство компании заключило с Пентагоном сделку почти на полмиллиарда долларов, связанную с прототипом интеллектуальной системы Maven, которая сканирует системы противника.

Нет сомнений, что проект найдет своих инвесторов, считает Ярослав Богданов, но к генсовету Palantir возникает вопрос - как далеко разработчик готов пойти, чтобы оправдать вложения, учитывая, что для этого потребуется милитаризация нейросети, о конечных возможностях которой никто не знает. Эксперт обращает внимание, что вопросы этики задвигаются на задний план, когда в науку вмешивается большой бизнес, тем более, что нейросети сейчас оказались на пороге рывка.

- Продукт, который для армии США делает Palantir, изначально заявлен как милитаризованный. Предположим, что при определенных обстоятельствах машина поведет себя агрессивно. Просчитать последствия сейчас невозможно, но они могут стоить человечеству существования. Даже малая вероятность такого сценария не оправдывает вопросы нацбезопасности отдельного государства и уж, тем более, чью-то прибыль. <...> Будучи заказчиком, правительство и спецслужбы заинтересованы в качественном продукте, а разработчик - в прибыли. В таких отношениях "заказчик-исполнитель" вопрос этики определенно не стоит на первом плане. Мировое сообщество должно озаботиться, чтобы передовые технологии служили на благо, а не вели к уничтожению цивилизации. Пока в этом вопросе не будет мирового консенсуса, опасные опыты с ИИ и нейросетями должны быть прекращены, как и их военизация, - заявил Ярослав Богданов.