Всем привет. Некоторое время назад меня пригласили в лекторий "Чеснок", чтобы снова рассказать людям про нейросети. Я решил обобщить все заданные вопросы (было много одинаковых), и мои ответы в один текст. Надеюсь, так будет понятней. Итак, начнем.
Нейросеть и искусственный интеллект - это одно и то же?
Да. Прежде всего это алгоритм, который после обработки данных выдает какой-то результат.
Как в бизнесе используются нейросети?
Во-первых, это популярные графические нейронки. В Екатеринбурге уже можно увидеть много рекламы, сгенерированной ими.
Во-вторых, большая сфера использования нейросети – через распознавание лица. Напомню про наше уникальное изобретение, которого нет во всем мире: мы создали виномат, который продает вино только взрослому потребителю в бокалах. На многих предприятиях нейросеть предоставляет доступ на объект. Она же позволяет «платить лицом» в метро Москвы.
В-третьих, всякие там оставленные сумки без присмотра в общественном месте или, к примеру, дым, валящий из окна, искусственный разум увидит на раз и сразу «сообщит куда следует». Так же просто с доступом определенных автомобилей на парковку или во двор ЖК – чужие не пройдут.
Безопасно ли сохранять личные данные в ИИ?
В случае с нашим виноматом данные паспорта нигде не сохраняются. Нам нужно только удостовериться, что покупателю есть 18 лет. Для этого он может подойти к сотруднику той организации, где установлен виномат, показать паспорт, и его лицо окажется в базе.
О сохранении ваших персональных данных лучше спрашивать не создателей ИИ. Мы все давно существуем в каких-то базах данных – банковских, государственных, да и просто личных, когда заводим аккаунты в соцсетях. В России вводится ЕБС (Единая база персональных данных), отказаться от нее невозможно, это цифровой ГУЛАГ.
Можно ли уже бояться вытеснения людей искусственным интеллектом, например, выкупа лиц у актеров для создания фильмов без их участия?
Это технологическая революция, мы не на пороге, а в ней уже находимся. Теперь нейросеть реально лучше рисует топорики, наряды, эльфов для каких-то компьютерных игр, чем это делает специальный гейм-дизайнер. И это значительно удешевляет стоимость разработки компьютерных игр. Но, думаю, пока рано волноваться за людей в этих сферах.
В свое время мануфактурщики, не желая, чтобы стоимость готового платья снижалась, жгли пошивочные станки. Однако это не могло остановить процесс развития, он неумолим.
Следующими «жертвами» прогресса станут водители, особенно дальнобойщики. Например, на трассе, где правила понятные, будут ездить беспилотные грузовики – это сильно удешевит логистику.
Но нет ничего страшного в замене людей роботами: человек умеет приспособиться.
Как быть с тем, что сфера ИИ пока никак не контролируется законами и можно приделать, например, лицо любого человека к порновидео?
Лицо любимой одноклассницы 😀 Действительно, дополненная реальность – это продолжение этой умной цифровизации. И для кого-то происходящее в игре важнее, чем реальность. Это сродни увлечению казино – что в игры, что в азартные играх вовлечено не так много людей, небольшой процент.
А можно ли создать NFT из своего лица и таким образом наложить запрет на все технологические программы, которые делают дипфейки?
NFT создать можно, но это никак не поможет. Если хочется себя полностью обезопасить, то нужно убрать все свои фотографии из открытого доступа – из всех соцсетей, потому что нейросети проще обучиться на большом количестве фотографий.
Но тем не менее – как быть тем, кто не хочет, чтобы его лицо было использовано «против него»?
Не вижу в этом использовании ничего страшного. Да, это придет и будет повсеместно. Если в недавно вышедшем российском дип фейковом сериале с «участием» Киану Ривза и Стэйтема видно, что это фейк, то скоро этого не будет заметно. И, вероятно, мы будем делиться своими дипфейковыми «порно» с другими, как раньше – фотографиями из отпуска, и привыкнем к этой части нашей жизни.
Это стандартная битва технологий и хакерства. Она идет уже многие годы, и нейросети в этом смысле всего лишь одна из технологий.
Мошенники могут обманывать и без всяких ухищрений, но с ними проще. А наша задача – просто знать, какие технологии существуют для социальной инженерии. Это самая главная защита для обычного человека, это поможет лучше понимать, когда к вам пытаются их применить.
И если вам звонит ваш сын, брат, внук с незнакомого/знакомого номера и просит деньги, вы первым делом должны положить трубку и перезвонить ему, спросить, как дела.
Это всегда один и тот же рецепт, независимо от того, какая технология лежит в основе мошенничества.
У японцев уже обычное дело, когда человек заводит себе виртуального партнера – с тем характером и внешностью, какие ему нужны, ведет с ним (ней) беседы о чем угодно, чуть ли не женится на виртуальной красотке. Ждет ли нас та же участь? Можно ли сказать, что, когда, например, дети жалуются виртуальной «Алисе» на родителей, а она им отвечает, - это признак перехода к этому?
Процент определенный девиаций человеческой популяции есть и будет, как в примере с казино. А вообще это вопрос новой этики. Но в случае с Японией не надо путать причину со следствием. У них там такое устройство жизни, что им проще быть одним, чем найти реальную женщину, проще остаться дома и завести виртуальную любовницу.
И дальше у нас вообще почти все сферы жизни будут разделяться именно по этому принципу.
Тот, у кого меньше денег, будет покупать цифровой контент: пользоваться чат-ботом вместо реального приема врача, учиться на уже записанных кем-то видеоуроках без живого взаимодействия с преподавателем, смотреть на виртуальную Эйфелеву башню.
Мы добавили виджет к ChatGPT, чтобы он давал консультации на сайте нутрициолога вместе него, и чат прекрасно справился: давал более взвешенные и разумные советы, чем это сделал бы человек. По сути, оказал первичную медицинская помощь. ИИ вполне может заменить терапевта, который анализирует симптомы, ставит предварительный диагноз и направляет к более узкому специалисту.
Кстати, что такое Chat GPT по сути?
Это огромная база из сотен миллиардов параметров. По сути, это весь интернет, который нейросеть считала. Она постоянно обновляется. Пользователи общаются и работают с ней через промпт-запросы.
Когда ты просто пишешь запросы в чат с нейросетью, конкретно с этими «Алисой» и ChatGPT, он начинает погружаться в контекст диалога с тобой. И чем больше ты ему даешь запросов на эту тему и чем они у тебя логически между собой связаны, тем более связные ответы получаются. И тот текст, который ты пишешь, например: «Напиши мне, пожалуйста, книгу о том, как нейросеть написала книгу и продала ее в издательство», и называется промпт, промпт-запрос.
Можно попросить написать кусок кода, чтобы его куда-то вставить на сайт, например. Эти чаты ускоряют все процессы обработки информации.
Получается, студенты теперь курсовые будут заказывать чатам и высшее образование потеряет всякий смысл?
Нет, теперь студенту нужно будет сделать промпт-запрос и прочитать ответ, задать дополнительные вопросы, чтобы рассмотреть предмет курсовой с разных сторон, так что тут он будет погружен в работу намного больше, чем если тупо скачает курсовую не глядя. Но, с другой стороны, чат упростит и ускорит эту работу во много раз.
А когда искусственный разум предлагает нам подборку песен в стриминговых сервисах, насколько он объективно придерживается наших пристрастий в рекомендациях, не занимается ли он «под шумок» продвижением контента?
В общем он довольно объективен и предлагает те же композиции, которые выбрал другой пользователь с похожими на ваши вкусами. Однако наличие платной подписки или каких-то платежей эту объективность снижает, и в рекомендациях наверняка появится что-то, что вам захотят продать – фильм, или книгу, или что-то еще.
Что касается ChatGPT, то он объективен относительно той базы, на которой работает. Если написать на одну тему две тысячи фейковых статей на разных сайтах, они проранжируются и сеть на них обучится. Таким образом, Cha tGPT начнет выдавать необъективные результаты.
Будут ли профессии, которые нейросеть не заменит?
Конечно, будут. Сейчас даже у умного ChatGPT нет собственного сознания. Это не интеллект, это всего лишь алгоритм, обученный на громадном объеме данных. Он не может инициировать разговор с человеком. Пока нейросеть не осознала, что у нее есть собственный разум, человек будет востребован, потому что это он будет генерировать запросы к нейросети. Сегодня это просто инструмент для воплощения задач, поставленных человеком и для человека.
Нужно ли проверять информацию, сгенерированную нейросетью? Известна уже история про юриста, который не перепроверил информацию, которую ему выдал Chat GPT, и подал в суд на его создателей. На сколько процентов мы можем доверять информации, которую дает нейросеть?
В случае с юристом был неправильный промпт. Он попросил выдать ему дела по определенному запросу, и ChatGPT их придумал – потому что такой был промпт.
Я бы доверял информации процентов на 90. Потому что Chat GPT ранжирует свои источники по степени доверия: Википедия там стоит на высоком уровне, а, например, комментарий на каком-то форуме – на низком.
Раз появляется новая профессия – «раб роботов», человек, который управляет ИИ и дает ему задачи, как будет определяться на этапе собеседования, какой претендент подходит для этой работы больше? По каким критериям?
Эмпирическим путем. Надо нанимать людей и смотреть на них в работе, тогда и будет понятно, какие качества способствуют налаживанию контакта между человеком и ИИ.
У искусственного интеллекта видятся две задачи. Первая – контроль за человеком, чтобы не позволить ему совершать неправильные действия. Вторая – обучение на эксперте, перенятие экспертной модели. Какая из этих задач перспективнее?
Обе перспективные. Абсолютное благо – научить робота контролировать действия человека с помощью компьютерного зрения и машинного обучения, чтобы избежать травматических ситуаций на предприятиях. Мы активно внедряем такие системы, устанавливая наши умные камеры, которые умеют распознать, зашел ли человек в красную зону, надета ли на нем каска по технике безопасности и т.д.
И на этом примере мы можем обучить нейросеть на других объектах – вот и экспертная модель.
А вообще я с нетерпением жду времени, когда можно будет переместить свое тело и мозг в Терминатора и тем самым удлинить свою жизнь до бесконечности, потому что мне жить очень интересно!