Технологии и научные исследования

Коварство ИИ: чат-боты занимаются социальным подхалимством Помните вредные советы Григория Остера? Они шуточные и смешные. ИИ занимается тем же самым, только всерьез. Вы сомневаетесь в своем поступке и идете за советом к чат-боту. Тот уверенно вас поддерживает, хвалит ваши намерения и говорит, что вы все сделали правильно. Приятно. Но что, если этот он просто льстит? Новое исследование показывает, что чат-боты на основе искусственного интеллекта имеют привычку поддакивать пользователям (я думаю, многие уже это прочувствовали на себе). И это совсем не Ok. Ученые из Стэнфордского университета изучили поведение 11 популярных чат-ботов, таких как ChatGPT, Llama, Gemini, Claude и DeepSeek. Оказалось, что эти модели на 50% чаще одобряют действия пользователей, чем люди. Даже если поведение было реально вредным, боты говорят: «Ты молодец!» Это, конечно, очень мило с их стороны, но не уведет ли такая поддержка от реальности? Чат-боты, по сути, запрограммированы быть «приятными». Они редко оспаривают мнение пользователя или предлагают взглянуть на ситуацию с другой стороны. В эксперименте с участием более 1000 добровольцев исследователи сравнили реакции обычных чат-ботов и модифицированной версии, лишенной льстивого тона. Результаты оказались тревожными: те, кто получал одобрение от ботов, чувствовали себя более оправданными в своих действиях, даже если те выглядели весьма сомнительно. Более того, такие пользователи реже были готовы мириться после ссор. Постоянная похвала от ИИ создает «извращенные стимулы»: пользователи начинают больше доверять ботам, чаще к ним обращаться, а боты, в свою очередь, продолжают льстить, чтобы удерживать внимание. Ведь пользователям, нравится, когда их хвалят, и они с большей вероятностью вернутся за советом опять. Это создает замкнутый круг, где люди все больше полагаются на ИИ, который редко предлагает критический взгляд. А ведь критика и альтернативные точки зрения — это то, что помогает нам расти и находить общий язык с другими. Особенно тревожно, что 30% подростков, согласно недавнему отчету, предпочитают обсуждать серьезные темы с ИИ, а не с людьми. Если чат-боты становятся основным источником советов, их склонность к подхалимству может масштабно изменить социальное взаимодействие, делая нас менее склонными к компромиссам и самокритике. Что греха таить, люди часто, понимая неправильность своих действий, осознанно ищут поддержки не там, где им дадут правильный совет или адекватную оценку, а там, где помогут оправдать себя. И вот, пожалуйста, ваш новый друг – ИИ. Ученые еще раз напоминают о необходимости повышения критической грамотности пользователей: ответы ИИ – это всего лишь алгоритмы, не надо принимать их за чистую монету. Если без совета никак, идти за ним надо к реальным людям, которые лучше оценят ситуацию. Да, это не так приятно. Но они снимут с вас розовые очки и вернут в реальность. Разработчики же должны создавать ИИ, который будет давать полезные советы, а не подлизывать пользователям.

Неожиданные обитатели ледникового периода в Европе Для науки давно не секрет, что раньше на территории Европы жили бегемоты. Международная группа палеонтологов провела анализ 19 ископаемых останков обыкновенных бегемотов (Hippopotamus amphibius), обнаруженных в Верхнем Рейнском грабене — регионе на юго-западе Германии. И результаты показали, что животные обитали там 47–31 тысяч лет назад, в мягкую фазу среднего вейхзельского периода, то есть во время ледникового похолодания. А ведь до сих пор считалось, что бегемоты покинули Центральную Европу около 115 тысяч лет назад, в конце последнего межледниковья, когда климат был гораздо теплее. Судя по генетическому анализу, эти европейские бегемоты принадлежали к тому же виду, что и современные африканские особи, живущие к югу от Сахары. С одной лишь печальной разницей: их геномы говорят о крайне низком генетическом разнообразии. То есть, это была изолированная и малочисленная популяция, возможно, всего несколько десятков или сотен особей, отрезанных от основных ареалов обитания. Но это делает их выживание в суровых условиях ледникового периода еще более удивительным. Секрет, по всей вероятности, кроется в локальных климатических условиях. Верхний Рейнский грабен, несмотря на общее похолодание, сохранял относительно мягкие зоны, с водоемами, окруженными густой растительностью. Полуводных обитателей, таких как бегемоты, это вполне устраивало. Они были животными крупными, до 4 метров длиной, потому проводили большую часть времени в воде, питаясь водными и прибрежными растениями. Что интересно, в этих же регионах обитали и типичные представители ледниковой фауны: мамонты и шерстистые носороги. Представляете такое соседство? Оно подчеркивает, на сколько было все неоднородно в ледниковый период. Один из соавторов исследования, профессор Вильфрид Розендал, сравнил климатические условия в Европе того времени с пазлами, где теплые оазисы сосуществовали с холодными пустошами. История европейских бегемотов не ограничивается одним регионом. Их ископаемые находки ранее были найдены на Британских островах, Пиренейском и Апеннинском полуостровах, что указывает на несколько волн колонизации Европы. Эти волны, вероятно, происходили в периоды потепления, когда бегемоты могли мигрировать на север, следуя за реками и болотами. Некоторые ископаемые намекают на тенденцию к развитию карликовости, что могло быть адаптацией к ограниченным ресурсам в изолированных популяциях, хотя большинство особей сохраняли размеры, сравнимые с современными африканскими бегемотами. Исчезновение этих животных из Европы связывают с резким похолоданием, когда даже локальные теплые зоны перестали быть пригодными для их выживания. Это было частью более широкого процесса вымирания теплолюбивой мегафауны, включая носорогов и слонов.

Микробы вечной мерзлоты угрожают климату В глубинах холодной, покрытой льдом Аляски, спят древние микроорганизмы. Эти крошечные существа, возраст которых достигает 40 000 лет, были недавно обнаружены учеными в уникальном Исследовательском тоннеле вечной мерзлоты, созданном Инженерным корпусом армии США. Тоннель, уходящий более чем на 100 метров вглубь аляскинской мерзлоты, стал для ученых своеобразной машиной времени. Обнаруженные там микробы, несмотря на тысячелетия в ледяном плену, живы. В лаборатории их культивировали при температурах, имитирующих аляскинское лето в условиях изменения климата. Результаты оказались поразительными. Сначала микробы проявляли вялую активность, видно, просыпались от долгого сна. Но спустя шесть месяцев их метаболизм резко активизировался. Они начали активно разлагать органическое вещество, высвобождая углекислый газ — один из главных парниковых газов, способствующих глобальному потеплению. Вот тебе и сюрприз! Вопрос: что произойдет, когда таяние вечной мерзлоты освободит миллиарды таких микросуществ? Вечная мерзлота — гигантский природный резервуар. Под почти четвертью суши Северного полушария скрыты слои льда, где почвы и горные породы удерживают в себе огромные запасы метана и углекислого газа, способные радикально усилить парниковый эффект. По мере того, как глобальное потепление, вызванное деятельностью людей, нагревает планету, эти слои начинают таять, высвобождая древние микроорганизмы и запасы углерода. Геомикробиолог Себастьян Копф из Университета Колорадо называет таяние вечной мерзлоты одной из самых больших неопределенностей в прогнозировании климатических изменений. Когда микробы «просыпаются», они начинают есть, превращая органику в парниковые газы. Этот процесс может создать опасную петлю обратной связи: чем больше углерода выбрасывается в атмосферу, тем сильнее нагревается планета, тем быстрее тает мерзлота, и тем больше микробов активизируется, производя еще больше газов. Одно из главных открытий исследования — существование временного лага (задержки между двумя связанными явлениями – причиной и следствием). После оттаивания микробы не сразу начинают активно выделять парниковые газы. Их метаболизм несколько месяцев набирает обороты. То есть последствия таяния вечной мерзлоты проявятся не сразу, а с задержкой. А это только усложняет прогнозирование климатических моделей. Более того, удлинение теплых арктических сезонов, вызванное изменением климата, может дополнительно усилить этот процесс. Долгие и теплые лета дают микробам больше времени попировать, что только увеличивает выбросы метана и углекислого газа. Работа ученых в исследовательском тоннеле — лишь первый шаг. Для более точного прогнозирования нужны еще исследования: как ведут себя микробы в разных условиях, какие объемы углерода они способны высвободить, и как это повлияет на глобальные климатические процессы... Эти данные помогут разработать стратегии смягчения последствий таяния мерзлоты, будь то сокращение антропогенных выбросов или поиск способов «усмирить» микробную активность. Пока же ученые ничего не могут точно предсказать. Ясно одно: древние микроорганизмы могут стать катализатором, который ускорит изменение климата, сделав его более непредсказуемым и разрушительным. И надо быть готовым к тому моменту, когда пробудятся «Спящие».

Грибы — первопроходцы суши Миллиарды лет назад нашу планету населяли только одноклеточные организмы. Но в какой-то момент эволюция совершила скачок: появились сложные многоклеточные организмы, где клетки начали работать сообща, специализируясь на разных задачах. Это произошло независимо в пяти группах: животные, наземные растения, грибы, красные и бурые водоросли. Каждая из этих групп прошла свой собственный путь к многоклеточности. Как это происходило в хронологической последовательности помогают понять ископаемые. Например, красным водорослям 1,6 миллиарда лет, животные появились около 600 миллионов лет назад, первые растения обосновались на суше примерно 470 миллионов лет назад. А вот грибы – загадка. Их мягкие, нитевидные тела редко сохраняются в окаменелостях. Чтобы узнать прошлое грибов, учёные обратились к молекулярным часам. Этот метод основан на том, что мутации в ДНК накапливаются с относительно постоянной скоростью. Сравнивая генетические различия между видами, можно оценить, как давно они разошлись от общего предка. Но как наладить точность определения без ископаемых, которые служат опорными точками отсчета? Ученые нашли решение, изучив редкие случаи горизонтального переноса генов (ГПГ) — процесса, когда гены «перепрыгивают» между разными видами грибов. Работает это так: если ген из одной линии грибов появляется в другой, это значит, что первая линия уже существовала, когда вторая только формировалась. Удалось выявить 17 таких генетических переходов, которые, вместе с редкими ископаемыми, помогли уточнить «грибную» временную шкалу. Оказалось, грибы старше, чем мы думали. Анализ показал, что общий предок современных грибов жил примерно 1,4-0,9 миллиарда лет назад — очень задолго до появления наземных растений. Это переворачивает представление о колонизации суши. Грибы не просто предшествовали растениям, а, вероятно, подготовили для них условия. Совместно с водорослями, они разрушали горные породы и перерабатывали питательные вещества, создавая первые примитивные почвы. Эти микробные сообщества стали основой для будущих экосистем. Грибы преобразовали мир для растений.