3. Развитие ИИ

Сгенерировано с помощью Алисы. Впечатляет, да?

3.1 Постоянное обучение

Наверное, из названия понятно, что это, но я хотел бы подробнее рассказать об этой теме

Дообучение

Это когда мы берем уже обученную модель и даем ей новые данные, с помощью которых она сможет решать новые задачи похожие на прошлые. Есть несколько стратегий дообучения:

1. Полное обучение: Все слои обучаются, но есть риск переобучения(о нем писал в прошлой статье).
2. Частичное дообучение: Это когда замораживается часть слоев и обновляется только определенный слой.
3. Поэтапное замораживание: Сначала замораживается только голова и тд.

Инкрементное обучение

А это когда обучение происходит постепенно на новых данных без полного переобучения. Это можно сравнить с студентом, который учит новый предмет и не забывает старые знания и не перечитывает их.

Вот несколько методов:

1. Стабилизация весов: защищает старые знания с помощью штрафов.
2. Повторение старого опыта: Хранит решения в буфере или хранит прототипы для каждого класса
3. Архитектурные методы: Создают новые нейроны для новых задач

Архитектурные решения

Это специальные конструкции, которые влияют на передачу данных между слоями и как сохраняются знания.

Проблема

Но у всего этого есть свой минус - это катастрофическое забывание. Что это такое? Это когда нейросеть сначала обучена чему-то одному, а потом при обучении чему-то новому совсем забывает то, что раньше могла знать в совершенстве. Но с этим бороться можно - созданием новых нейронов(слоев), которые не будут перезаписываться при обучении чему-то новому.

3.2 Этические аспекты

Вы можете подумать, что это связанно с Азиломарскими принципами ИИ, в какой-то степени вы будете правы, но также это завязано на других аспектах. Один из таких аспектов - предвзятость. ИИ обучается на данных созданных человеком, из-за чего нейросеть возьмет стереотипы этого человека. Например, она начнет плохо распознавать темнокожих или при найме на работу не будет рассматривать женщин(ультраправые ИИ, вот это да!).

Но это только начало! Для обучения ИИ нужно достаточно много персональных данных. Из-за чего могут происходить утечки ваших данных в сеть интернет, но для этого уже придумали решения:

1. Обучение без централизации данных. Данные берутся не с сервера, а, например, с вашего телефона, а потом переносится на сервер уже в виде весов и градиента. Из-за этого в нейроны не записывается "грязная" информация.
2. Добавление "шума" в данные. С помощью математических вычислений(а-а-а, математика) создаются минимальный шум, который не мешает данным, а просто "приукрашивает", чтобы нельзя было вычленить конкретного человека(кстати, так делает Apple)

Испугались? Так это еще не конец! Псевдо-ИИ(если так можно выражаться) еще используют при автоматическом наведении оружия на цель. Здесь уже сложнее обойти такую проблему. Решают ее с помощью запрета(как хим. оружие) или та самая "красная кнопка", чтобы контролировать все, мы же не хотим повторения сюжета серии игр "Horizon zero".

Ну и любимая тема миллениаалов - безработица. Такая вещь возможна, но она решается проще, чем прошлая проблема, чтобы ее обойти можно идти на курсы использования ИИ или введение налогов на использование нейросетей при работе.

3.3 Новые технологии

Про это вообще можно много чего сказать. Вы заметили какой скачок произошел в генерации контента с помощью ИИ? Раньше видео генерировались рандомным способ, а сейчас мы можем смотреть, как обезьяна ищет себе работу в России или как бабушка выгуливает своего домашнего бегемота. А еще люди могут этим злоупотреблять делая фейк видео, а здесь уже становится страшно не на шутку, но будем надеяться, что из-за таких фейков не произойдет ничего страшного. Будем надеяться, что ИИ поможет нам развить новые технологии и подтолкнет нас к новым совершенствованиям!