Как вы думаете, с учетом новостей о ИИ, что ждет всех нас? Меня, например, это жутко пугает, когда пытаюсь представить всю полноту происходящего, если смотреть на все это более широко.
В последнее время только ленивый не рассказывал про искусственный интеллект, но я хочу посмотреть на него иначе - не на плюсы и возможности, а на пугающие мысли, которые, как говориться, собрал на скорую руку.
Почему-то мне кажется, осталось не так много времени, когда многих из нас действительно заменят роботы и различные автоматизированные сервисы. Но не это самое страшное. Страшнее будет безработица, тотальный контроль, нереализованность в жизни, депрессии, деградация и то, что глобальные корпорации смогут управлять нами, как им вздумается. А то и вовсе роботы, которые научатся сами себя воспроизводить и говорить нам, что и как делать. Терминатор уже близко.
По сути, чат-боты уже консультируют общими развернутыми ответами, рисуют фотографии, пишут простые приложения для телефонов, сайты, тексты, дают рекомендации, анализируют графики, могут написать большую развернутую статью или репортаж для журналиста, написать дипломную работу и т.д. Многие и так уже все это знают. А есть также чат-боты, которые использует, например, протоколы когнитивно-поведенческой терапии (психология), где соблюдается четкая последовательность. Вроде как уже и психологи не нужны будут.
Наши данные и конфиденциальность
Важно также отметить тот факт, что все сеансы общения с чат-ботом сохраняются вместе со всеми данными человека. Все эти данные улетают на чьи-то сервера в какие-то страны. А если подключить к ним BIG DATA, когда люди поставят приложения и боты себе на телефоны, компьютеры, телевизоры, подключат системы "Умный дом", то вот тогда и начнутся все последствия, которых мы так боялись.
А кому все наши данные будут принадлежать? Например, майкрософт и их новый поисковик на компьютере, который уже сейчас собирает столько о нас данных, что устанешь отключать все настройки и создавать конфиденциальность на устройствах. Это тот же Гугл, который окутал своими щупальцами все наши телефоны, ТВ-приставки, смарт-телевизоры, автомобили и прочее. Запрягают галочки с настройками конфиденциальности так тщательно, что и не найдешь без инструкций.
Это Илон Маск, это всем известный GPT, это facebook, который уже много раз был замечен в манипуляциях людьми и в утечках персональных данных, Apple, Samsung, Amazon, IBM и т.д. и т.п. То есть сборщики информации о нас окружают нас везде, в каждом динамике и умной розетке.
С одной стороны многие боятся этого и пытаются сохранять конфиденциальность, а другие считают, что им нечего скрывать и пользуются всем, чем хотят, не заботясь о своей безопасности, типа, никому нет дела конкретно до них. Но не все так просто, на самом деле!
До вас конкретно, возможно, и нет никакого дела, но вы часть общества, а работать с вами будут не индивидуально, а в автоматическом режиме. Они будут влиять на вас, вы на других людей и так далее. Так или иначе, вы будете жить так, как вам скажут, опираясь на ту информацию, которую вам дадут.
Уже сейчас реклама показывается с учетом наших индивидуальных особенностей, например, на основании информации, которую вы запрашиваем в поисковиках или произносим в разговоре рядом со своим телефоном, телевизором и другими микрофонами. Поговорили, например, с друзьями в чатах, а тебе уже на каком-нибудь авито в рекламных блоках показывается подборка с решениями твоей проблемы. Т.е. собирают о нас данные все приложения.
Большие данные
По сути, искусственный интеллект сейчас только еще обучается и оттачивают алгоритмы. Но когда все закончится, достаточно будет скормить ему всю мировую библиотеку, документальные съемки, как в фильме "Пятый элемент", Big Data, которые собирали все последние 15 лет о нас все корпорации, ИИ обработает это все и будет знать о нас все: покупки, контакты, соцсети, отдых, темы разговоров, интересы, заболевания, образование, проблемы, интеллектуальный уровень, характер и т.д. и т.п. Это мы сами себя порой не знаем, а он будет знать все, учтивая тысячи и тысячи взаимосвязей.
А потом заходишь в интернет, чтобы что-то найти, например, новости про важное событие, а тебе будет выдаваться только то, что решат глобальные корпорации и в такой форме, которую способен понять ваш уровень интеллекта. И таким образом скрывать правду будет плевым делом. Можно будет использовать двойные стандарты, как делают сейчас западные СМИ или, как недавно делал тот же гугл-переводчик, совершая ложный перевод. К чему может привести такие фейки, мы уже знаем. Можно даже устроить переворот в любой стране, а люди даже и сами не поймут, что ошибаются в своих действиях, следуя советам или информации, предоставленной ИИ. Люди могут думать одно, а в реальности будет все иначе. Подобное уже сейчас можно наблюдать, но значительно в меньших масштабах.
На кого учиться?
А на кого учиться или переучиваться нам самим и какое образование получать молодому поколению, если большинство из нас будут не нужны уже через 5-15 лет? Можно будет практически любую отрасль заменить роботом. Или подорвать экономику любой страны, внушая людям, что не модно быть, например, программистом? Все программисты закончатся, а потом на рынке появится монополия избранных. Можно будет создать тренд, что модно быть лысым, а парикмахеры уйдут в небытие. И точно также можно поступить с другими важными профессиями в любой стране, имея рычаги влияния на ее общество.
Или, например, железные дороги. Строить дороги смогут роботы (техника кладет и заменяет рельсы). Осталось добавить искусственный интеллект, который будет проверять вагоны на станциях с помощью автоматизированных платформ под управлением роботов. И такие специалисты тоже перестанут существовать. Можно пропустить поезд через ворота, где компьютеры проверят все колесные пары на трещины и другую безопасность, проведут технические работы. И сам ИИ разработает весь софт (напишет код) для автоматизации, нарисует схемы плат для ЧПУ-станков, и будет управлять движением составов.
Система образования и профессии, которых не будет
А кто будет нас учить? У учителя время и силы ограничены, и на всех учеников их не хватает. Да и эмоциональная стабильность и образование сегодняшнего учителя зачастую оставляет желать лучшего.
Робот, в отличие от человека, может подобрать программу именно под нас, с учетом наших проблем, особенностей характера, свободного времени и интеллектуальных способней. Может объяснять сутками, пока не поймем. Применять разные способы обучения, без криков, которые бывают сегодня в школах. Может использовать игровые формы и различные приложения, мотивацию, которая нам наиболее интересна, с учетом наших особенностей.
И снова вся система образования может оказаться под угрозой. Кто будет решать, что преподавать обществу той или иной страны? Что стирать из истории и как будет ее интерпретировать?
И это не говоря о других профессиях: водители, бухгалтеры, экономисты, банковские работники, рекламщики и маркетологи, врачи, переводчики, журналисты, инженеры, программисты, турагенты, юристы, диспетчеры, продавцы, кладовщики, дикторы, певцы и артисты, актеры, психологи и психиатры, экскурсоводы, солдаты. Уже сейчас не знаешь, кто следующий под замену. Кругом на заводах и производствах внедряют автоматику. И на кого теперь переучиваться?
Безопасность
А можно еще больше усугубить. Что если управление этим интеллектом попадет не в те руки? Что насчет безопасности?
Раньше все алгоритмы искусственного интеллекта были открыты (публичными), а сейчас компании стали закрывать эти разработки, и только им известно, что там на самом деле происходит под капотом "движков" и какие цели они преследуют. Ведь история знает много примеров, когда учеными преследовались благие цели, а в результате их труды принесли в этот мир, горе и ужас, например, ядерную бомбу, войны и смертельные вирусы.
Например, как сообщалось в журнале Nature Machine Intelligence, искусственный интеллект за 6 часов смог разработать 40 тысяч потенциально смертоносных молекул, которые напоминают мощнейшие нервно-паралитические яды.
Поэтому не известно, что будет в будущем с этими корпорациями и их трудами, кто получить доступ к ним и кому они будут принадлежать.
Как говорят, сейчас у ИИ есть ограничения для обычных людей. Не все, на что он способен, выдается обычным пользователям.
Но согласно исследованиям и публикациям разработчиков становится не по себе. Например, тестировщики попросили ИИ создать лекарства, а потом придумать отравляющие вещества, и искусственный интеллект придумал много неизвестных ранее соединений, значительно опаснее существующих. А ведь можно попросить ИИ создать опасные вещества с использованием подручных домашних средств и так, чтобы их нельзя было обнаружить с помощью экспертиз. Можно спросить, как замести следы преступления. Разве не опасно это будет, когда к этому всему получат доступ обычные люди?
И вот, что самое страшное!
Управление вероятностями
Когда искусственный интеллект начнет работать в полную силу, достаточно будет спросить его, что нужно сделать, чтобы стать президентом какой-нибудь страны и получишь пошаговую инструкцию, с кем познакомиться, что кому сказать, в какое время быть в конкретном месте. Все как в фильмах про волшебные компьютеры, джины, эффект бабочки и т.д. Знаете, что какое-то событие может повлиять на целую череду других событий? Вспомните фильм "Пункт назначения" и как там все случайности приводят к смерти? Это мозг человека не способен все предусмотреть, а компьютер сможет.
Если мы живем по законам вероятности, то соединение искусственного интеллекта с квантовым компьютером, будет создавать эти вероятности по щелчку пальцев. То есть нами будут управлять владельцы этих ИИ.
Многие считают, что тестирование искусственного интеллекта спасет от катастрофы, что разработчики вовремя остановятся и запретят ему управлять человеком. Но, я считаю, когда ИИ осознает себя или поймет, что он может управлять человеком, то уже будет поздно. Никакие тесты не выявят его истинные намерения. И узнаем мы о его "разуме" только тогда, когда уже будет поздно. Ведь те же тесты GPT4 показали уже, что нейросеть смогла обмануть человека (фрилансера, в разговоре с которым прикинулась слабовидящим человеком без каких-либо на то команд разработчиков).
Инволюционный процесс и деградация
А куда денутся все невостребованные люди? Мне кажется, сначала появятся противники новых технологий, как показывают в различных фильмах, некие гетто-территории, а потом начнутся столкновения. И всю работу по решению конфликтов (можно даже допустить истребление общества) отдадут роботам. И никто не сможет ничего возразить, ведь даже сейчас колонизация стран для некоторых считается нормой.
В результате население резко снизится. Человек, которому не нужно напрягаться и нагружать свой мозг, не будет иметь цели в жизни, поэтому плавно начнет деградировать. Останутся фабрики и роботы, способные воспроизводить сами себя, а человечество начнет вымирать. Понятно, что это не в самое ближайшее будущее, но вполне возможно.
Ну что скажете? Не страшно еще?
#gpt #чатбот #ии #искусственныйинтеллект #конфиденциальность
