Крупнейшие компании, занимающиеся разработкой ИИ, нанимают философов на старшие должности по этике и безопасности. Зарплата такого специалиста может достигать 400 000 долларов в год (примерно 30 млн рублей). Они занимаются формированием ценностей ИИ. Делают модель не только всезнающей, но и «хорошей», этичной, эмпатичной и т.д. Многие люди перестали доверять ИИ, а философы в команде могут стать тем самым элементом, который вернёт пользователям доверие к нейросетям. Чему учат философы? Философ учит чат-бота Claude более «этичному» поведению: чтобы он был честнее и безопаснее в диалоге с пользователями. В Google Deep Mind философ занимается выстраиванием соответствия между ИИ-системами и человеческими ценностями. Этот человек специализируется на изучении этических и политических вопросов. Философам есть чем заняться за шестизначные зарплаты!
Сергей Михеев: За такие зарплаты чем только не займёшься! Я говорил, что одна из проблем веры в ИИ состоит в том, что он остаётся искусственным.
Поэтому стратегия его развития (внедрение в общественные связи) не может обойтись: 1. без контроля со стороны человека; 2. без осмысления: что это и зачем, и не ведёт ли это к саморазрушению? С одной стороны, вроде бы новость неплохая; но, с другой стороны, для чего будут использовать философов? Чтобы ловчее обманывать людей? Или чтобы соотноситься с парадигмой, что человек и его человеческие отношения остаются в приоритете, а всё остальное - потом? Всем технооптимистам, которые чаще всего технари и возомнили себя «философами», надо понять, что как экономикой всё не решить, так и здесь. Человек – это гораздо более сложное создание(которое до сих пор во многом осталось непостижимым), чем коды (нули и единицы) или любые другие вещи, которые делает машина. Поэтому имитировать можно, но воссоздать и полностью понять нельзя. Для того, чтобы действительно интенсивно и органично интегрировать, встроить в жизнь человечества все новые системы и технологии так, чтобы это было с пользой, не обойтись без философского, религиозного, нравственного осмысления проблемы.
Одна из таких трудностей состоит в том, что люди, продвигающие всё это, чаще всего сами в этом смысле недалеко ушли от компьютеров, которым они «молятся». Им кажется, что условный говорящий холодильник и есть предел мечтаний.
Не признавая сложности людей, технооптимисты не понимают сами себя. Ясно, что это запредельная гордыня: «Я изобрёл железку, которая заменит людей, потому что она умнее и лучше». Здесь без философии не обойдёшься. Мы читаем новость: «Зарубежные компании начали нанимать философов». А сколько лет подряд я говорю, что без философского осмысления проблемы не получится! Говорят: «Что Вы понимаете? Смотрите, ИИ уже в шахматы всех обыграл! Смотрите, он уже может какие-то несуразные танцы танцевать. Какие здесь философы?»
Одна из наших проблем – это внутренний комплекс неполноценности перед западной цивилизацией. Поэтому мы всё время в хвосте! Вместо того, чтобы осознать эти вещи самим и создать интересную, суверенную, гармоничную модель подхода к новшествам, мы постоянно только и делаем, что копируем (в экономике, науке, технике)! Причём мы можем и неоднократно это доказывали. К сожалению, мы живём в период, когда элита сформировалась на идее неполноценности с 1990-х и 2000-х годов. Поэтому они будут нанимать философов и быстрее поймут, что с этим надо делать. Уже потом, когда это раскрутится, мы тоже будем говорить: «И нам надо». А у нас с этим вообще беда: в общественных науках всё «кисло», поскольку везде торжествует политтехнология и аппаратные модели решения проблем, помноженные на технократический оптимизм (не буду говорить про коррупцию).
Общественные науки в нашем политическом процессе не играют никакой роли. Какие там философы? Есть социология, которую каждый раз подкручивают под некий момент и всё. А глубокого осмысления не существует. Действуют какие-то институты, факультеты: вроде как надо оставить. Влияют ли они на направление общественной мысли? Нет, не влияют и, более того, находятся в «загоне». На переднем крае довольно примитивные политтехнологии, аппаратные способы решения проблем, карьерные и групповые интересы, технократический оптимизм и личный карман, который никто не отменял. Это плохо. Они-то рано или поздно сообразят, что надо делать, а что не надо. Мы же снова будем рассказывать, что «это пока не для нас. Они сделают - и мы тогда начнём шевелиться».
Молодёжь всё больше доверяет нейросетям. Треть выпускников используют ИИ для расчёта шансов поступления в тот или иной вуз, при этом они перепроверяют информацию за языковыми моделями. Такой вывод следует из исследования учёных РУДН, сообщает ТАСС. Согласно материалам исследования, чаще всего школьники спрашивают у ИИ о баллах для поступления на выбранную специальность, о списке вузов, куда можно попасть с имеющимися баллами по ЕГЭ, и о возможности поступить на бюджет. В этом же исследовании говорится, что две трети выпускников заявили, что не доверяют результатам ИИ и стараются перепроверить за ним информацию с помощью официальных источников.
Сергей Михеев: Что касается «платных»: уважаемые выпускники и их родители, не тратьте время на ИИ. Скажу вам простую формулу: вы поступите на платное обучение, если у вас есть деньги заплатить, и не поступите, если у вас нет денег заплатить. Что касается расчётов возможности поступить, то здесь я ничего плохого не вижу. Главное, чтобы они действительно стремились к знаниям и чтобы потом знания не заменяли ответами из ИИ. В прикладных моментах (не сутевых и не смысловых) можно и нужно использовать технологии.
На «Воскресном вечере с Владимиром Соловьёвым» я поднимал тему: техника, наука, производство, конструкторская мысль - здесь и нужно продвигать, но почему-то продвигается вяло. В основном,внедряется там, где не нужно или очень рискованно (образование, общественные связи), создавая иллюзию продвижения. Если есть прикладные возможности или необходимость это делать, то почему бы и нет? Давайте, попробуйте рассчитать. Правда, эти расчёты не являются абсолютным знанием и, возможно, окажутся неверными, поэтому надо опираться на собственные знания.
Получается, что нейросеть советует, куда поступить, - такая скрытая профориентация. Можно ли это доверять ИИ?
Сергей Михеев: Я бы не стал ничего ему доверять, кроме каких-то вычислений, группирования информации, а всё остальное лучше своим мозгом. Тем более, выбор профессии.
Насчёт ориентации в пространстве: всё-таки большинство моделей ИИ, которые работают на нашем рынке, используют иностранные базы данных. Я не очень понимаю, как они ориентируют человека? Ведь там огромное количество тупо переводной информации, которая к нашей реальности имеет слабое отношение. Здесь надо всё перепроверять и думать своей головой, особенно если вы собираетесь определять свою дальнейшую жизнь. Надо исходить из того, что вам хочется, можется, к чему лежит сердце, а не из того, что вам посоветует телефон.