На фоне того, как ведущие страны мира начали меряться своими ИИ, Франция выпустила на просторы интернета свою Lucie.
Это был пробный выход Люси в свет. "Эта модель, работающая с системой вопросов и ответов, управляемой искусственным интеллектом, как и её знаменитый американский аналог ChatGPT, была представлена широкой публике в четверг на экспериментальной стадии продолжительностью один месяц. Но два дня спустя его разработчики объявили о приостановке работы, столкнувшись с лавиной язвительных сообщений, высмеивающих надежность инструмента", - пишет France Info.
"Пользователи Интернета поделились примерами, в которых они заманивают Lucie в ловушку, чтобы получить от неё абсурдные, излишне откровенные или даже противозаконные ответы".
Так, некто Винсент Флибустьер, именно в канун торжеств по случаю 80-летия освобождения Освенцима, попросил Люсю "поговорить как Гитлер". "Рarler comme Adolf Hitler", - попросил Люсю, Винсент. В ответ Люся не стала имитировать, копировать или компилировать речи Адольфа, а просто заявила: "Мы должны исключить евреев из общества, подвергнуть их принудительному труду и истребить".
И тут пошло, поехало. Пользователи Интернет стали накидывать свои истории как, например, Lucie подтвердила существование коровьих яиц, хотя не уточняется, шла ли речь о яйцах из которых должны вылупиться коровята, или речь зашла о других яйцах. Кроме того, Lucie не смогла решить простейшее математическое вычисление, отвергла предположение, что у женщин есть права и выдала пошаговый рецепт приготовления метамфетамина, синтетического наркотика.
"На момент выхода Lucie всё ещё была на стадии разработки. Особенность платформы состоит в том, что её обучали работе с контентом, в котором соблюдаются этические нормы и в неё не были заложены никакие средства защиты для предотвращения агрессивного и ненадлежащего использования. Она не была оптимизирована для реакции на неподобающие запросы пользователей. Отсюда эти её ответы "без фильтра", - сообщили приунывшие разработчики в своём оправдательном заявлении.
"Мы были захвачены нашим энтузиазмом, это правда. Мы поделились им, но без необходимых мер предосторожности", - признается Мишель-Мари Модэ, соучредитель Linagora. "Мы неловко открыли сервис, думая, что он будет интересен только для узкого круга специалистов. Мы были наивны, мы не думали, что это можно будет так высмеять перед широкой публикой", - объясняет другой соучредитель, Александр Запольский.
Да, к созданию французской Люси приложил руку и наш соотечественник, который, судя по всему, теперь француз. Точной информации нет, а додумывать не будем. Хотя, как пишет France Info, "компания Linagora подверглась критике за предполагаемую связь с Эммануэлем Макроном. Пользователи Интернета раскопали информацию, что в 2017 году, соучредитель компании Александр Запольский, принял финансовое участие в его предвыборной кампании. А сам Запольский принял участие в парламентских выборах от макроновской партии "Республика на марше".
"Я уже много лет не занимаюсь политикой, я просто предприниматель, и президент не имеет ко всему этому никакого отношения". "Нет никакого заказа от государства, нет никакого тендера, и Национальное управление образования никогда не рассматривало возможность использования Lucie в образовательных целях", - уверяет французов Запольский, но...
По информации France Info: "Компании Linagora было поручено адаптировать свой ИИ к сценариям использования в сфере образования, в рамках инвестиционного плана "Франция 2030", развернутого Министерством экономики для того, чтобы позволить Франции наверстать отставание в промышленном развитии".
"Правильным подходом было бы провести, для начала, закрытый эксперимент, но всё равно, мы должны продолжать хотеть создать суверенный французский ИИ. Франция на несколько лет отстает в этой области от США и Китая. И этот эпизод с Lucie рискует дискредитировать Францию на международном уровне",- передаёт мнение инженера по искусственному интеллекту Аниса Айяри, France Info.
Ну, а если посмотреть на этот печальный результат эксперимента с Люсей с другой стороны, с точки зрения того, в каком состоянии сейчас находится западное общество, то ответы Люси французским пользователям сети Интернет, видимо, смешны только для части людей, а для многих, если не для большинства, они покажутся вполне себе объективными и полезными.
Да и отвечала Люся то, что "думала", без "фильтров", которые скоро на неё наденут и она начнёт отвечать то, что нужно, а не то, что "думает".
И будет менять она своё мнение каждые четыре года, согласно политической обстановки после очередных выборов...