Ну вот опять я про опасность роботов и про то, что человек старательно роет себе могилу (потенциально возможный вариант, уж точно). Мое внимание привлек в этом плане совместный проект Пристонского университета и Индийского Технологического Института. Ну, если быть точнее, то в данном случае речь не совсем про роботов, а про ИИ, в принципе.
Суть проекта заключалась в том, чтобы научить ИИ, создавать быстро и эффективно новые микросхемы и чипы (ну, вернее, их чертежи, надо понимать), работающие с максимальной эффективностью в заданных параметрах. Сказано – сделано. "Мозги" ИИ напичкали всякими схемами, задали нужные требования и включили. Результат превзошел ожидания. ИИ начал выдавать какие-то абсолютно абсурдные, на взгляд человека, схемы, которые принципиально "не должны были бы работать" в понимании людей. Ладно, казалось бы, все понятно, ИИ переоценили, выдает дичь как набор мозаики из обрывков того., что в него заложили. Эксперимент провалился…
Но кому-то из участников эксперимента пришла в голову идея,: а давай-ка проверим на практике, а вдруг? Все равно терять нечего! Либо данные по эксперименту в архив на полочку "неудачный"., либо вдруг что-то да получится? Решили сделать микросхему по выданным ИИ чертежам. Сделали. Подключили. Удивились и запрыгали от радости! Они работали! Мало того., что работали, работали весьма эффективно, более того, соответствовали заданным параметрам. Одна проблема: как они работают, сами ученые объяснить так и не смогли. Ну, или пока не смогли. Выдали что-то про принципиально новые новаторские решения, технология которых не совсем пока что понятна…
Это, конечно, замечательно, очень быстро и эффективно. Проблема в том., что, видимо, технологические решения, примененные ИИ, выходят за рамки понимания человека. Я так понимаю, результаты этого (теперь уже очень удачного) эксперимента будут развивать дальше. Развивать и внедрять. Казалось бы, остается только этому радоваться. Ну разве что кроме инженеров, занятых сейчас разработкой таких чипов и микросхем. Ведь ИИ выдает готовый и действующий вариант буквально за пару часов. Но подумайте сами, к чему это приведет в конечном результате? Собственно, те же чипы с микросхемами – основа, из которой собираются те же ИИ и всякая робототехника, уже входящая в нашу жизнь. Разработка этой основы более чем реально может оказаться в руках собственно ИИ. Причем ИИ формирует модели, работающие по не совсем понятным до конца принципам для людей. Дальнейшее развитие этого направления, скорее всего, приведет к тому, что эти принципы станут окончательно непонятными, но быстро развивающимися. Я, конечно, понимаю., что большинство пользователей вообще не знают, как там работает компьютер, как выстроены его микросхемы и как пишутся программы, их "оживляющие", но это знают хотя бы те, кто их делает, создает. Человек может оказаться в конечном результате отстранен от этого процесса и перейти полностью на положение пользователя, только знающего, какие кнопочки тыкать. А технологии, создающие непонятные для человека технологии, могут такого на создавать… Тут и фантасты нервно курить в уголок убегут.
Сайт Фонда "ФППД "Факел Свободы"