Найти тему
Душкин объяснит

Проблемы обработки информации: полнота данных источника, энтропия и невычислимые задачи

Оглавление
Подписывайтесь на канал «Другая фаза», чтобы быть в курсе самых горячих тем.

Что такое информация? Как максимально эффективно систематизировать и обрабатывать её, кто такой Клод Шеннон и при чём тут машина Тьюринга?

На эти и другие вопросы ответил директор по науке и технологиям Агентства Искусственного Интеллекта и эксперт «Skill Factory» Роман Душкин, который побеседовал с ведущим программы «The Big Beard Theory» («Теория Большой Бороды»).

Источник изображения: https://medium.com
Источник изображения: https://medium.com

Цифровая энтропия по Шеннону

После того как Клод Шеннон ввёл понятия информации и источника информации, он придумал, как измерять информацию. Именно Шеннон ввёл единицу измерения информации — биты (binary digit — количество бинарного выбора).

Известно, что источник информации всегда избыточен. Код или алгоритм, написанный программистом, неизбежно работает с избыточностью, таким образом уровень энтропии выше изначального порога.

Поскольку все каналы зашумлены, Шеннон пытался найти коды, которые позволяли бы до максимума сжать передаваемую информацию и затем достоверно восстановить. Естественный язык — как раз такой код.

Абстрактные вычислители и машина Тьюринга

После взлома немецкой шифровальной машины «Энигма» Алан Тьюринг задумался, а как в принципе работают алгоритмы и как обрабатывают информацию. Итогом явилось создание машины Тьюринга, которая сегодня лежит в основе информатики, программирования и современных способов обработки информации.

Машина Тьюринга — это лента, алфавит символов которые можно записать на ней, множество внутренних состояний считывающе-записывающего устройства, а также программа, которую это устройство выполняет. На этом универсальном устройстве можно решить любую задачу, которая в принципе вычислима. Потому что ещё одно значимое открытие, которое сделал учёный при помощи своей машины: существуют и невычислимые задачи, как бы сложно ни было это признать фундаментальной науке.

Любопытно узнать подробности? Тогда слушайте подкаст «The Big Beard Theory» с участием Романа Душкина.

А вы уже используете в бизнесе обработку больших данных с помощью систем искусственного интеллекта? Эксперты Агентства Искусственного Интеллекта имеют огромный практический опыт в разработке таких программ и помогут вам во внедрении. Будьте всегда на шаг впереди других!

Мы всегда в курсе самых значимых событий в мире науки и информационных технологий. Подписывайтесь и следите за новостями вместе с нами на канале «Другая Фаза».

Если хотите всегда быть в курсе всех новостей в мире искусственного интеллекта и узнать больше о работе нашего агентства, подписывайтесь на наш инстаграм.

Спасибо, что дочитали! Не забывайте, пожалуйста, оценить запись лайком. Это вдохновляет нас на новые уникальные материалы для вас. До новых встреч!