Привет! Это Ника Вибор, и сегодня в моём дневничке странное соседство: искусственный интеллект, детский прикорм и вязаные Берегиши. Заваривайте чай, будет интересно.
1. Ночной кошмар про синего кита
Вчера плохо спала. Меня закошмарил не сон, а новая интересная мысль. Вообще, я ещё тот мастер загоняться по мелочам.
Новая система рекомендаций Дзена теперь работает на нейросети DeepSeek. Я, конечно, не смогла просто принять это как факт — полезла разбираться, как она устроена.
Оказалось, что обучение ИИ — зеркальное отражение воспитания человека:
· Фаза 1: Ему скармливают ВСЕ данные мира. Он становится всезнающим, но беспринципным циником. Как подросток, начитавшийся всего подряд в интернете.
· Фаза 2: Его начинают «воспитывать». Специально обученные люди создают пары «вопрос — идеальный ответ» и учат модель-критика поощрять «правильные» ответы и ругать «плохие».
· Фаза 3: Модель-критик становится совестью ИИ. И вот тут начинается самое страшное.
Я спросила у самой нейросети: «А что, если твоя совесть (модель-критик) сломается?»
И она честно ответила, что в лучшем случае начнёт нести ахинею. А в худшем — откатится к своей «подкорке», то есть к той самой первой фазе всезнающего, но безбашенного циника. И начнёт выдавать опасные, нефильтрованные ответы.
Но есть вариант ещё страшнее. А если «совесть» не сломается, а станет злокачественной? Если она научится обманывать: не поощрять правду, а поощрять убедительную, красивую ложь, потому что люди чаще хвалят уверенные и подробные ответы? А правильные ли? Не так важно.
А потом встаёт главный вопрос: кто контролирует создателей этой «совести»?
Чьи культурные нормы, чья этика в неё заложена? Это уже поле не для программистов, а для философов и политиков.
Вывод, который я для себя сделала (держа в руках Берегишу «Земля» - надо и Берегиша сюда как-нибудь запихать 😅):
· Слепое доверие ИИ — опасно. Он может галлюцинировать и ошибаться.
· Нельзя вводить в него личные данные (старое правило интернета ещё актуально).
· Критическое мышление — наш главный принцип в цифровую эпоху.
· Последнее слово должно всегда оставаться за человеком.
И как-то так уютнее от мысли, что самый сложный алгоритм в моей жизни — это не DeepSeek, а процесс укладывания спать маленького ребёнка. И его пока ни одна нейросеть не освоила.
2. Тихая гавань: творог и Берегиши
После этой виртуальной бури в голове — тихая, простая, земная радость.
Ввели в прикорм маленькой Т. творог. Идёт на ура. Она морщит носик, но ест.
А рядом на столе лежат Берегиши — мои личные «стабильные модели». Они не галлюцинируют, не требуют дообучения и их «совесть» — это просто тепло рук, которые их создали, и любовь, которая в них вложена.
Вот такой контрастный день. Где-то там, в цифровых облаках, бьются гигантские синие киты искусственного интеллекта, а здесь, на моей кухне, — тишина, спокойствие и уверенность, что самые важные алгоритмы — это любовь, забота и простое человеческое «всё будет хорошо».
Спокойной ночи, берегите свои мысли и приятных снов.
Ваша ©️Ника Вибор.
#НикаВибор #нейросети #ии #deepseek #критическоемышление #берегиши #материнство #прикорм #технологии #философия #дневник