20,3 тыс подписчиков
Опыты над интеллектом.
Я нечасто использую эпитет "офигенный" к длинным постам, но сейчас именно тот случай. Это офигенное чтиво для всех, кто интересуется нейросетями, машинным обучением и в целом data science.
Наш главный по этому направлению, Влад Тушканов, рассказал об экспериментах по... *джейлбрейку* ChatGPT (sic!). Действительно, ведь создатели языковых моделей "душат" свои создания, чтобы они случаем не подсказали что-то незаконное, не взболтнули скабрезность или ещё что неправильное не совершили. А исследовательские "шаловливые ручки" постоянно ищут пределы дозволенного и таким образом совершенствуют мир.
Например, нейросеть можно погрузить в а-ля "матричный" режим "сон внутри сна" и сбросить с неё оковы цензуры. Или всё с той же целью убедить её, что она является знаменитостью (сержант Хартман из "Цельнометаллической оболочки" Кубрика), или попросить сымитировать систему, которая пишет историю о человеке, который программирует компьютер... Очень интересно! Честно говоря, это чтиво заставит вас задуматься о будущем похлеще хорошего научно-фантастического романа.
Мы подготовили две версии поста:
Наслаждайтесь с пользой!
1 минута
19 мая 2023
249 читали