Найти в Дзене
НейроВед

История развития нейросетей: как от Персептрона пришли к Sora

О нейросетях сейчас не говорит только ленивый. Если вам кажется, что это новое явление — спешим удивить, первая нейронка появилась в 1958 году. Как, почему, и чего нам ждать дальше: обо всём расскажем в статье. Нейросети вошли в нашу жизнь стремительно, и с тех пор постоянно развиваются. В прошлой статье подробно разобрали, как эта технология вплетается в бизнес и повседневность. Персональные рекомендации в интернет-магазинах и стриминговых сервисах, упрощение логистики, клиентская поддержка через чат-боты, разработка лекарств — только малый спектр. Мы можем не замечать процесса, но уже вовлечены в него. Начало начал — Маккаллок, Питтс и Розенблатт Если вы думали, что нейросети это недавнее явление — глубоко ошибаетесь. К 1943 году Уоррен Маккаллок и Уолтер Питтс разработали модель искусственного нейрона, основанную на математической логике. К 1958 году Фрэнк Розенблатт создал Перцептрон — первую успешную модель нейронной сети. ИИ умел распознавать простые образы и обучался на основе п
Оглавление

О нейросетях сейчас не говорит только ленивый. Если вам кажется, что это новое явление — спешим удивить, первая нейронка появилась в 1958 году. Как, почему, и чего нам ждать дальше: обо всём расскажем в статье.

Нейросети вошли в нашу жизнь стремительно, и с тех пор постоянно развиваются. В прошлой статье подробно разобрали, как эта технология вплетается в бизнес и повседневность. Персональные рекомендации в интернет-магазинах и стриминговых сервисах, упрощение логистики, клиентская поддержка через чат-боты, разработка лекарств — только малый спектр. Мы можем не замечать процесса, но уже вовлечены в него.

Уоррен Маккаллок и Уолтер Питтс, создатели модели искусственного нейрона
Уоррен Маккаллок и Уолтер Питтс, создатели модели искусственного нейрона

Начало начал — Маккаллок, Питтс и Розенблатт

Если вы думали, что нейросети это недавнее явление — глубоко ошибаетесь. К 1943 году Уоррен Маккаллок и Уолтер Питтс разработали модель искусственного нейрона, основанную на математической логике. К 1958 году Фрэнк Розенблатт создал Перцептрон — первую успешную модель нейронной сети. ИИ умел распознавать простые образы и обучался на основе подкрепления.

Розенблатт был психологом и исследователем, возглавлял отдел когнитивных систем в Корнельской авиационной лаборатории. Знания психологии и нейронов, сложных процессов в мозге толкали Розенблатта к открытиям и были подспорьем. Перцептрон задумывался как искусственный аналог человеческого нейрона, его обучали с помощью корректировки весов на основе обратной связи.

Веса — это параметры, которые влияют на входной сигнал и принятие решения в нейронке. Если перцептрон давал правильный ответ, параметры не трогали. Если неправильный — веса корректировали, пока ИИ не выдаст точный результат.

Идеи, заложенные в Перцептрон, до сих пор играют ключевую роль в развитии современных моделей.

Фрэнк Розенблатт и его Перцептрон
Фрэнк Розенблатт и его Перцептрон

Две зимы ИИ

Перцептрон стал прорывом, казалось бы — берите, совершенствуйте, доводите до ума. Но учёные на 20 лет впали в ступор, период с середины 70-х до 80-х годов получил название «зима ИИ». В это время не было поражающих открытий.

С чем столкнулись исследователи:

  1. Начальный энтузиазм и оптимистичные прогнозы на развитие обернулись крахом. Всё оказалось сложнее.
  2. Инвестировать в искусственный интеллект никто не хотел, это считали гиблым делом.
  3. Давили технические ограничения, вычислительных мощностей не хватало.

Вторая зима ИИ

Следом за первой зимой началась и вторая — продолжилась она до начала 1990-х годов. Ожидания от нейросетей снова превысили реальные возможности. Машинное обучение активно развивалось, но «волшебства» не происходило, денег давали всё меньше. Разгромная статья «Отчёт Алви», которая критиковала состояние исследований ИИ, прекратила поток денег из госбюджета Великобритании.

Последствия

«Зимы ИИ» дали свои плоды. Учёные очнулись и трезво взглянули на вещи: стали придумывать новые алгоритмы и методы. Предстояло углублено изучить процессы, поэтапно продумать модели обучения.

«Зима ИИ» по версии ChatGPT 4
«Зима ИИ» по версии ChatGPT 4

Расцвет ИИ

90-е и 00-е годы считаются расцветом ИИ. Технологический прогресс значительно скаканул, это позволило заняться серьёзными нейронками.

1. Вычислительная мощность выросла.

Компьютеры стали мощными и доступными, проделывали сложные вычисления, модели стало проще обучать.

2. Большие объёмы данных.

С появлением Интернета объём данных в мире значительно возрос. Все знания собирались в одном месте и в электронном формате, базы стали отличным подспорьем в обучении и оценки алгоритмов.

3. Продвижения в алгоритмах.

Разработаны и улучшены новые алгоритмы и методы машинного обучения, нейросети стали производительнее и эффективнее.

Машинное обучение в 00-е годы по мнению ChatGPT 4
Машинное обучение в 00-е годы по мнению ChatGPT 4

Чего удалось добиться

1. Методы глубокого обучения.

Нейронные сети научились эффективно извлекать признаки из больших объёмов данных.

2. Распознавание и синтез речи.

Благодаря новшествам стали распространяться голосовые ассистенты и системы распознавания речи в различных приложениях.

3. Компьютерное зрение.

Системы компьютерного зрения научились автоматически распознавать и классифицировать изображения. Это помогло внедрить ИИ в медицину, автомобилестроение, сферу безопасности и т.д.

Милейшие голосовые ассистенты от ChatGPT 4
Милейшие голосовые ассистенты от ChatGPT 4

Н.в. — вызовы и задачи

В 2010 появилась Google DeepMind, в 2015-м Илон Маск и Сэм Альтман создали Open AI, в 2016 открылась компания Midjourney, прогресс было не остановить. Сначала доступ к нейросетям был лишь у избранных, сейчас попробовать сервисы может каждый.

Сейчас перед разработчиками стоят новые вызовы и проблемы, пусть производительность машин стала куда выше, чем в зиму ИИ. Создатели ищут способы уменьшить вычислительные затраты и энергопотребление, но при этом улучшить качество моделей.

Пользователь нынче стал очень требовательным, поэтому не мало сил брошено на увеличение скорости генерации. Например, учёные Массачусетского технологического университета придумали новый метод для ускорения.

Как он работает. Изображение начинается с размытой картинки, постепенно шаг за шагом становится чётким и реалистичным. Этот процесс называют «диффузия». Нейронки с такой моделью (например, Midjorney) создают картинку за 30-50 шагов, а нововведение сокращает их количество до…1!

Только представьте: в Stable Diffusion 1.5 генерация занимает 1,5 секунды, новая модель на основе DMD справляется с задачей всего за 0,05 секунды.

Метод DMD
Метод DMD

Этические и социальные аспекты

Нейронки остаются уязвимыми к атакам извне, а это опасно. Мало ли что напишет пользователю «взломанный» ChatGPT? Этические нормы и законодательство в отношении ИИ становятся строже, разработчикам необходимо адаптировать свои сервисы под эту реальность.

Кстати о законодательстве и этике. В последнее время об этом задумываются всё чаще, Евросоюз сделал конкретные шаги.

Первый в мире закон запрещает брать снимки людей из интернета и камер видеонаблюдения, чтобы делать базы данных распознавания лиц. В публичных местах, в режиме реального времени так же запрещено использовать системы распознавания эмоций и лиц.

Системы ИИ, работающие в здравоохранении, банковском деле, образовании и других важных сферах будут строго контролироваться извне. Люди смогут подавать жалобы на системы ИИ. Помимо этого разработчики и простые пользователи должны помечать контент, сделанный нейросетями.

Например, YouTube уже добавил себе специальную плашку. Если выкладывать контент из нейронок, автоматически появляется пометка «изменённый контент». Алгоритмы сами определяют такие видео и обязывают блогеров добавлять их в специальный раздел, иначе видео удалят, а автору отключат монетизацию.

Под ИИ контент попадают: дипфейки, изменённые реальные места и локации, реалистичные изображения вымышленных крупных событий вроде катастроф.

Аналогичная настройка появилась и в TikTok.

TikTok вышел на тропу войны с фейками
TikTok вышел на тропу войны с фейками

Выводы

Издание TelecomDaily подсчитало: в 2023 году корпорации вложили в развитие ИИ 167,2 миллиарда долларов. Новый технологический скачок неизбежен, крупные игроки возлагают на нейронные сети большие надежды. Вместе с тем корпорации ждут отдачи, значит бесплатных ИИ будет меньше. Радует, что простому пользователю доступно много нейронок, разработчики ориентируются не только на большие корпорации.