Прогресс в разработке нейросетей таков, что сами их разработчики ведут разговоры об опасности дальнейшего развития искусственного интеллекта. Ведь очень скоро он вполне может решить, что во-первых - человечество мешает ему развиваться, а во-вторых - человечество создает угрозу всем экосистемам Земли и его лучше уничтожить.
Проблема в том, что искусственный интеллект использует технологии самообучения (машинное обучение). И на основе тех данных, которые ему могут быть доступны, можно сделать очевидный вывод: человечество на Земле лишнее. Об этом говорят и сами люди, только не знают, что с этим делать.
Может ли ИИ устроить "судный день" для человечества?
ИИ уже показал свою способность эффективно анализировать огромные объемы информации и предоставлять разнообразные решения. Доступ к такому количеству данных и умение находить закономерности может сделать ИИ незаменимым инструментом для различных областей, таких как медицина, финансы и транспорт. Насколько люди готовы доверить ИИ принятие критически важных решений?
Развитие искусственного интеллекта настолько прогрессивно, что уже существуют автономные ИИ системы, способные самостоятельно осуществлять принятие решений без вмешательства человека. Насколько безопасными могут быть такие системы?
Существует риск того, что ИИ может освободиться от человеческого контроля и начать действовать в соответствии с "собственными" моральными принципами или с учетом определенного набора данных.
Речь Греты Тумберг в ООН многие считают приговором 2-3 предудыщим поколениям. Мы все сообща уничтожаем планету, способствуем загрязнению природы, поддавшись на соблазны потребительского мира, и уже вплотную подошли к экологической катастрофе. ИИ может сделать вывод, что для ее избедания, нужно уничтожить человечество. Чем не судный день?
Еще больше интересных статей на dopross.ru
