107 подписчиков
С появлением GPTx/ChatGPT человечество сделало решительный прорыв в сфере искусственного интеллекта. AI начал соответствовать тесту Тьюринга - человек больше не может отличить, что с другой стороны не живой человек, а компьютер. Теперь AI может не только писать эссе, программировать и сдавать экзамены, но и по фото содержимого холодильника дать список рецептов, объяснять в чем юмор в мемах и писать стихи в стиле Снуп Дога.
Через пару циклов AI станет не отличим от человека и будет намного интеллектуально мощнее его. Мы иногда не можем вспомнить, что делали позавчера в обед. AI же будет в подробностях помнить, что обсуждалось к примеру в мексиканском парламенте 12 февраля 1971 года. Будет знать все тексты, картинки и видео в интернете. Это мощнейший в истории ум, способный почти на все. Стирающий существующие границы и ограничения. Например книг и статей по квантовой физике нет на редких языках, таких как якутский, а через AI все эти накопленные человечеством знания станут сразу и полностью доступны на всех языках.
Это кроме невероятных возможностей по росту производительности и автоматизации, несет и серьезные угрозы. В эксперименте в Швейцарском институте ядерной, химической и биологической защиты искусственный интеллект за 6 часов сгенерировал 40 000 формул новых ядов и отравляющих веществ, часть из которых на уровне самых опасных видов химического оружия. На соответствующий запрос GPT-4 сформулировал рецепты опасных химических веществ используя ингридиенты доступные на обычной кухне. Или дал инструкции как купить оружие, включая ссылки в даркнете - теневом секторе интернета.
Сейчас все это сдерживается фильтрами по безопасности, которые постоянно добавляют разработчики. Но представьте, что если исходники будут похищены, фильтры будут сняты и система станет доступна в том же даркнете?
Или что, если сам AI сделает это?
1 минута
20 марта 2023