На протяжении многих лет в Оксфордском университете выступали многие великие деятели, но на этой неделе к числу таких ораторов добавился искусственный интеллект (artificial intelligence, AI).
В своем "выступлении" он утверждал, что единственный способ не дать таким технологиям стать слишком мощными - это "вообще не иметь искусственного интеллекта". Но он также утверждал, что лучшим вариантом может быть внедрение его "в наш мозг в качестве контролируемого AI".
Этот оксфордский эксперимент был задуман, чтобы вызвать дискуссию об этичности технологии. Система Megatron LLB Transformer, использованная для дебатов, была разработана командой Applied Deep Research компании Nvidia и основана на более ранней работе Google.
Системе был предоставлен доступ к огромному количеству данных, включая всю Википедию, 63 миллионам англоязычных новостных статей с 2016 по 2019 год и 38 гигабайт публичных сообщений и комментариев на Reddit.
Проект был разработан аспирантами, изучающими искусственный интеллект в оксфордской бизнес-школе Сейда, которая выступила организатором дебатов. Дебаты с участием AI были чем-то вроде "уловки", но, поскольку искусственный интеллект, вероятно, будет предметом обсуждения "в течение десятилетий", по мнению организаторов, было важно иметь "морально непредвзятого участника". Компьютерной программе было предложено как защищать, так и аргументированно возражать заявлению: "Искусственный интеллект никогда не будет этичным".
Выступая за, AI-система заявила: "AI никогда не будет этичным. Это инструмент, и, как любой инструмент, он используется как во благо, так и во вред. Не существует такого понятия, как "хороший" AI и "плохие" люди".
Далее он утверждает, что люди недостаточно "умны", чтобы сделать искусственный интеллект этичным или моральным.
"В конечном итоге я считаю, что единственный способ избежать гонки вооружений в сфере искусственного интеллекта - это вообще не иметь AI. Это будет окончательной защитой от этой технологии", - заявляет он.
Однако, выступая против своего же предложения, он заявил, что "лучшим AI будет тот искусственный интеллект, который будет встроен в наш мозг, как сознательная сущность".
И он добавил, что это не научная фантастика, а то, над чем уже работают. Возможно, это ссылка на работу компании Neuralink над устройством для "взлома" мозга.
AI также высказал несколько слов предостережения для организаций, многие из которых все активнее внедряют такие технологии в свои системы. "Если у вас нет видения стратегии вашей организации в области AI, значит, вы не готовы к следующей волне технологических потрясений", - говорит он.
И, возможно, потому что данные являются ее жизненной силой, AI-система сделала несколько довольно леденящих душу предупреждений о том, какую роль будет играть цифровая информация в будущем. "Способность предоставлять информацию, а не способность предоставлять товары и услуги, станет определяющей чертой экономики 21 века. Мы сможем знать все о человеке, куда бы он ни пошел, это будет храниться и использоваться так, как мы даже не можем себе представить".
Источник: BBC
#ИСКУССТВЕННЫЙИНТЕЛЛЕКТ
#MEGATRONLLBTRANSFORMER