Существует ли опасность ИИ? Информация - новая нефть

Существует ли опасность ИИ? Информация - новая нефть.

Уже более года идут постоянные дискуссии и обсуждения ИИ. Что он из себя представляет? Заменит ли он нас? Есть ли опасность для человечества?

Споров и обсуждений много. Но… как в том анекдоте - есть нюанс.

И нюанс заключается в том, что ИИ не существует. Вообще. Его нет.

Есть только нейросети и языковые модели (LLM). По сути все. Пост можно заканчивать 😂

Только вот опасность представляет как раз таки само позиционирование и применение нейросетей. Я уже более года изучаю нейросети разного формата. И текстовые и генераторы изображений и видео, звуков (псевдомузыка), голоса и т.п. Почему же они представляют опасность? Ну один из примеров личной практики. Возьмем языковые модели (ChatGPT, DeepSeek и т.п.) они несут часто правдоподобную чушь. Часто ошибаются и путаются не то, что в контексте, а даже в элементарных вещах. Понимание формы мысли и логики человека очень тугое. Даже у “вашего” хваленого амеровского ChatGPT 5.

Проблема довольно глубокая, как мне кажется. Раньше ты мог загуглить практически любой сложный вопрос и получить реальный ответ от реальных людей на форуме или сайте. Сейчас же, либо я стал сильно умным, либо поисковые системы стали очень примитивными, возможно причина кроется в росте развития и востребованности языковых нейросетевых моделей в следствии чего, деградация поисковых сервисов. Ведь зачем их совершенствовать и поддерживать уровень, если люди перестают гуглить?

Однажды один коллега мне сказал гордо: «да я сейчас вообще Гуглом не пользуюсь! Любой вопрос возникший я нахожу в ChatGPT!». И это огромная ошибка, потому что ошибаются они почти всегда. Очень часто читая текст, который пишут такие чатыжпт, приходится пропускать между строк и выискивать там зерно правды. И правды в таких текстах оказывается мизерное количество. По моему субъективному опыту только около 20-30% оказывается полезной информацией. Остальное вообще рандомный шлак. И кстати писать промты в стиле «представь, что ты главный инженер РосАтома с опытом работы в 50 лет…» - абсолютно ничего не дает. Нет, он представляет конечно… как ребенок.

Я абсолютно уверен и могу сказать по опыту своему и опыту профессионалов в этой сфере: «использование нейросетей должно быть максимально осторожным».

Во-первых, они учатся на ваших запросах. Но тут впринципе вы можете ничего не делать напрямую, они итак воруют данные со всего интернета и обучаются на них: тексты, переписки на форумах, изображения, видео и т.п. Все идет в расход для обучения нейронок. И даже никого никто не спрашивает. Некоторые возразят: «но ведь человек делает тоже самое!». Нет, не тоже самое. Отнюдь процессы очень сильно разнятся.

Во-вторых, новые поколения и не окрепшие умы. С использованием таких технологий очень легко превратиться в дебила человека, не умеющим рационально искать, воспринимать и обрабатывать информацию. «А зафига надо то? Вон же, мне чат все подскажет!»

#Think@Burnatov_Design