Всем привет! Я уже рассказывал вам о том, что с 26 по 28 ноября на федеральной территории «Сириус» проходил V Конгресс молодых ученых. Напомню, что это главное событие Десятилетия науки и технологий в России. И в этом году оно стало еще более масштабным.
Хотя сам Конгресс уже прошел, я все еще выпускаю материалы о тех анонсах и сессиях, которые оказались лично для меня наиболее интересными. И в этот раз речь пойдет об ИИ, которому также уделили достаточно внимания. Уже в последний день прошло обсуждение на тему «Искусственный интеллект: полное возможностей будущее или угроза?».
Модератором сессии выступил заместитель руководителя Россотрудничества Павел Шевцов, а среди участников были эксперты, научные сотрудники и представители компаний.
Явные риски в данной сфере
Хотя по большей части искусственный интеллект приносит новые возможности и ускоряет работу в различных сферах, нельзя забывать и о потенциальных рисках. Участники дискуссии обсудили главные угрозы, с которыми мы уже сталкиваемся или столкнемся в будущем.
Так, директор академического департамента «Математического и компьютерного моделирования» Дальневосточного федерального университета (ДВФУ) Андрей Сущенко напомнил об активном применении мошенниками технологии DeepFake (поддельные ИИ-фото, видео или голос). Он сообщил, что с этим сталкиваются и студенты ДВФУ.
Более того, в некоторых случаях человек может пострадать два раза. Сначала при потере средств. А потом при обращении в правоохранительные органы, если деньги переводились в страны, финансовое взаимодействие с которыми под запретом. По мнению Андрея Сущенко, важно учить студентов быть «верификаторами» любой информации, которую они получают.
Также Андрей Сущенко уверен, что проверять данные нужно и при самостоятельном использовании генеративных моделей. Если научить студентов справляться с этой задачей при выполнении рутинных операций, новые открытия в науке будут делаться быстрее.
О проблемах в системе образования рассказал и ведущий научный сотрудник исследовательского центра в сфере искусственного интеллекта Новосибирского государственного университета Евгений Павловский. Он считает, что преподавателям теперь сложнее понять уровень знаний студентов. Ведь обучающиеся активно используют нейросети.
Во время обсуждения не забыли и о проблеме с ИИ в медицине. Старший научный сотрудник Российского центра неврологии и нейронаук Елена Кремнева рассказала, что иногда врачи настолько доверяют ИИ, что становятся лишь операторами, посредниками между нейросетью и пациентом. А сам врач перестает развиваться, теряя способность самостоятельно выявлять заболевания.
Возможные решения проблем при использовании ИИ
Некоторые спикеры также поделились мнением о будущих решениях, которые могут помочь избежать глобальных проблем при глубокой интеграции ИИ в различные социальные и научные процессы.
Из интересного я бы отметил пару заявлений:
- Руководитель исследовательской группы центра искусственного интеллекта «Сколтеха» Александр Марусов сообщил, что нужно создать универсальную математическую модель, фундамент для современных нейросетей, чтобы управлять внутренними процессами и понимать, почему и как ИИ решает те или иные задачи.
- А ученый НГУ Евгений Павловский рассказал о том, что специалисты Центра искусственного интеллекта при НГУ уже разработали проект госстандарта, который призван регулировать массовое внедрение ИИ в городской среде, чтобы избежать возможных ошибок.
Естественно, сегодня уже сложно представить нашу жизнь без ИИ-технологий, а в будущем они еще больше будут проникать во все социальные сферы. И такие обсуждения имеют значение, так как помогают не только научному сообществу, но и обществу в целом понимать перспективы и риски применения ИИ, чтобы большинство успело адаптироваться к изменениям.
Поставьте «палец вверх» для поддержки развития канала. И до скорого!