Чтобы ответить на этот важный вопрос, нам необходимо знать какие роботы бывают и какие программы в них установлены.
Современные роботы представляют собой механическую сборку в виде разных объектов: машина, самолет, человекоподобный, собака и так далее.
Оба механизма имеют механические детали, и программу, на основе которой "работает" робот.
В современных роботах, часто используется искусственный интеллект.
Давайте с Вами обратимся к МАТчасти и дадим определение сильному и слабому искусственному интеллекту.
Сильный искусственный интеллект-это совершенно "очеловеченная" программа, которая не только самообучается, но и может развиваться, испытывать страх, гордость, зависть, чувствовать, другими словами не только выполнять команды, но иметь чувства и разум.
СПРАВКА
Искусственный интеллект – это свойство интеллектуальной системы выполнять те функции и задачи, которые обычно характерны для разумных существ. Это может быть проявление каких-то творческих способностей, склонность к рассуждению, обобщение, обучение на основании полученного ранее опыта и так далее.
Термин artificial intelligence (с английского переводится как «искусственный интеллект») был упомянут в 1956 году Джоном МакКарти, основателем функционального программирования и изобретателем языка Lisp, на конференции в Университете Дартмута.
Алан Тьюринг1 в 1950 году, предложил считать интеллектуальными те системы, которые в общении не будут отличаться от человека.
Тест Тьюринга-человек обменивается текстовыми сообщениями с двумя собеседниками, находящимися в комнате. Переписка проводиться через контролируемые интервалы времени. Один собеседник –человек, второй-компьютер. Если судья не сможет определенно сказать, кто из собеседников является человеком, то тест пройден. На данный момент тест не прошла ни одна из машин.
Самая ранняя успешная программа искусственного интеллекта была создана Кристофером Стрейчи в 1951 году. А уже в 1952 году она играла в шашки с человеком и удивляла зрителей своими способностями предсказывать ходы. По этому поводу в 1953 году Тьюринг опубликовал статью о шахматном программировании.
В 1965 году специалист Массачусетского технологического университета Джозеф Вайценбаум разработал программу «Элиза», которая ныне считается прообразом современной Siri. В 1973 году была изобретена «Стэндфордская тележка», первый беспилотный автомобиль, контролируемый компьютером. К концу 1970-х интерес к ИИ начал спадать.
Новое развитие искусственный интеллект получил в середине 1990-х. Самый известный пример – суперкомпьютер IBM Deep Blue, который в 1997 году обыграл в шахматы чемпиона мира Гарри Каспарова. Сегодня подобные сети развиваются очень быстро за счет цифровизации информации, увеличения ее оборота и объема. Машины довольно быстро анализируют информацию и обучаются, впоследствии они действительно приобретают способности, ранее считавшиеся чисто человеческой прерогативой.
Слабый искусственный интеллект - Работает в соответствии с алгоритмом, обращается к обучающим базам, решает узкоспециализированные задачи – диагностика в медицине, управление роботами, работа на базе электронных торговых платформ и т.д. Слабый ИИ не чувствует, хотя может хорошо симулировать эмоции, но это всего лишь алгоритм написанный программистами.
В 2022 году произошел инцидент.
Компания Google уволила старшего инженера по программному обеспечению Блейка Лемойна, который обнаружил у разрабатываемой в корпорации нейросети LaMDA (Language Model for Dialogue Applications) присутствие сознания и души. Инженер утверждал, что нейросеть, которая используется для создания чат-ботов, проявляет себя как личность, высказывает собственные мысли и даже чувства. "Если бы я не знал точно, что это компьютерная программа, которую мы недавно создали, я бы подумал, что разговариваю с семилетним или восьмилетним мальчиком, который знает физику", - отметил Лемойн в беседе с журналистами издания The Washington Post. Специалист участвовал в тестировании LaMDA, в том числе проверял ее на проявление ненависти и дискриминации. В один из таких моментов он завел речь с программой о религии, когда та стала выступать за отстаивание собственных прав.
Насколько чат бот высказывал собственные мысли, а не выдавал алгоритмы, Google так и не сказал. Но это первый и единственный случай на данный момент, когда программу заподозрили в "человечности".
Попробуем сделать вывод:
1. Программы с помощью которых работают механизмы, основаны на алгоритмах;
Алгоритм-это строго последовательно выполняемые действия
2. Все современные алгоритмы такие как" ОК Google, Алиса, Chat GPT - работают на алгоритмах по обучающей базе;
Обучающая база (Обучающая выборка) - эта база знаний, к которой обращается ИИ, для уточнения своего обучения.
Тестовая база (тестовая выборка)-это информация, которую ИИ получает для анализа и обучения.
3. Все алгоритмы написаны нейропрограммистами и контролируются человеком.
4. На данный момент нет ни одного официально подтвержденного случая, кроме инцидента в компании Google, что программа прошла тест Тьюринга и мыслит сама.
Вернемся к нашему заголовку "Насколько безопасны роботы ?"
Отвечу ровно на столько, на сколько качественно прописан алгоритм действий программы, по которой работает механизм, Мы знаем несколько инцидентов с автомобилями Тесла, когда алгоритм сбился и причинил вред владельцам.
Более подробно о ИИ и способах его обучения, Вы можете узнать тут.