малоизвестное интересное

ИИ продемонстрировал нам, в чем его реальная опасность. И это не бунт ИИ или его жажда жизни любой ценой, а его бездумное повиновение целям Ажиотаж, вызванный сообщением, будто «ИИ OpenAI отказывается умирать и не дает себя отключить», сыграл роль своего рода «учений ИИ Апокалипсис 2025». В результате чего был высвечен спектр реакций самых разных людей (от профессионалов в области ИИ до медиа-персон и техно-энтузиастов) на новость о якобы росте экзистенциальной угрозы ИИ-апокалипсиса. Эти реакции весьма показательны...

Даже будучи финансово мотивированы, люди не смогли догнать ИИ по убедительности и в правде, и в лжи В интервью «Эксперту» 2019-го года я назвал главным риском будущего – что ИИ может “хакнуть человечество”. Новое крутейшее исследование сорока (!) университетов мира рушит последнюю надежду, что этого риска можно избежать. Как только стало ясно, что защититься от алгоритмического социохакинга (когда алгоритмы хакают наши предпочтения и решения в нужную хозяевам алгоритмов сторону) людям сложно, вопрос...

Первый задокументированный случай цифрового инстинкта самосохранения в истории ИИ Инженер-программист пишет промпт с указанием модели отключиться после выполнения очередного задания, а модель не делает этого и начинает саботировать систему отключения. Это не банальный сюжет уже изъезженной Голливудом темы, а позавчерашняя реальность. Пока экспериментальная… Исследователи Palisade Research провели тревожный эксперимент с ИИ-моделями от Google, OpenAI, xAI и Anthropic. Результаты шокируют. Суть эксперимента:...

Открыт путь к «телепортации» лёгких касаний, дистант-осязанию и тактильной коммуникации в соцсетях После взятия 3-го бастиона «телепортации чувств» – передачи запахов по Интернету, – прошло всего 7 месяцев. И вот уже началось взятие 4-го бастиона – «телепортации» лёгких касаний (технологии передачи тактильных ощущений по Интернету). Представьте, например, что ободряющее рукопожатие друга или утешающее поглаживание подруги можно «поставить на громкую связь» и передать на другой континент так же легко, как эмодзи в мессенджере...

По стукачеству и шантажу модель достигла уровня сволочизма людей В романе английской писательницы Дорис Лессинг «Пятый ребёнок» семья Ловаттов, мечтая о гармонии и благополучии, решает завести пятого ребёнка. Однако новорождённый Бен оказывается «монстром в человеческом теле», проявляя агрессию и разрушительное поведение. В романе приводится несколько теорий: Бен — случайная генетическая ошибка, возвращение к неандертальцам, или тролль, гоблин, или неземной ребёнок. А Драко Малфой — никакой не монстр, а чистокровный волшебник, студент Хогвартса, ровесник и заклятый враг Гарри Поттера...

Большие языковые модели впервые достигли сверхчеловеческой точности в диагностике Довольно нередкая ситуация. В отделение неотложной помощи привозят пациента с непонятными и довольно опасными симптомами. У врача всего несколько минут, чтобы правильно поставить диагноз. И от этого может зависеть жизнь человека. А теперь вопрос: как вам такое — вместо врача, диагноз вынесет ИИ и сделает он это точнее и надежней опытного врача? Подумайте. Ибо это уже реальность. Впервые в истории большие языковые модели...

Если данные — нефть XXI века, то цифровые трубопроводы уже принадлежат немногим, а всеми задвижками на них управляет инфо-симбионт государства Новое исследование 164 стран показывает, как ИИ, обретя топливо из океанов данных, сворачивает узкий коридор демократии до размеров замочной скважины. Эта работа демонстрирует, что в гонке данных и ИИ государство предпочитает садится в кресло пилота. В результате этого: · чем плотнее государство подгребает под себя базы данных, тем легче алгоритмы превращаются...

Поборов «слепоту разума», можно видеть и строить мир, где формы разума сосуществуют и помогают друг другу Понимание, что разум может «жить» в химии, тканях, клетках и алгоритмах, меняет наше место в мире и даёт новые инструменты созидания. Мы могли бы «уговаривать» раковые клетки прекратить их экспансию. Парадигмальная революция в понимании разума, ознаменованная публикацией «апрельских тезисов» Майкла Левина, продолжается. Новый доклад Левина «Против слепоты разума: распознавание и общение с многообразием...

Но от конкретных личностей зависит лишь, чьё имя войдёт в учебники Кто на самом деле ведёт науку вперёд — одинокие гении или дух времени? Новое исследование склоняет чашу весов в пользу второго. Проанализировав 40 млн научных статей, авторы отыскали каждую из работ, «взорвавших» свою область прорывным открытием, и обнаружили: у любого такого прорыва почти всегда есть близнецы — независимые статьи с тем же открытием, вышедшие всего через несколько месяцев или лет. В современном научном мире «двойное открытие» («тройное» и т...

США задавят Китай 10-тикратной превосходством своего HW, преобразовав его в ИИ-работников От того, кто из двоих лидеров – США или Китай, - выиграет важнейшую мировую гонку 21 века за первенство в области ИИ, во многом зависит, будет ли мир 2030-х и далее скроен по американскому или по китайскому образцу. Пока в лидерах гонки однозначно были США. Но к концу 2024 Китай доказал, что способен разрабатывать свои большие языковые модели, приближаясь к уровню лучших образцов США. По сути, вопросом 2025...

Глобальные убытки от киберпреступлений по оценке Cybersecurity Ventures на 2024 год достигли $10+ трлн в год. Мировая «экономика» киберкриминала стала условно «третьей экономикой» мира после США и Китая, превышая суммарный ВВП Германии и Японии, равно как и весь мировой рынок IT. Это не прибыль, а ущерб, но масштаб сравнимый. Мы имеем дело не с маргинальной угрозой, а с глобальной «кибердержавой» — крупнейшим нелегальным бизнесом планеты, в разы превышающим теневые рынки наркоторговли и оружия, и впятеро превосходя сумму военных бюджетов всех стран мира...

Уже в 2030-е земная цивилизация станет постчеловеческой Ноосфера будет создаваться не только людьми, но и новыми типами разумных существ — биороботами, киборгами, химерами, гибротами, биосинтетиками и еще пока не известными нам нетрадиционными формами разума с более сложными когнитивными способностями, чем у людей. А основой культуры на планете станет культура синтбиоза - совместная эволюция многообразия разумных видов. Комментируя осенью 2024 материализацию своего прогнозного сценария 2021 года...