Нельзя надеятся, что искуственный интеллект все сделает правильно, поэтому нужны люди. Для скорости и масштабирования вам также нужен ИИ, контролирующий ИИ.
Принятие сомнительных решений и галлюцинации, вызванные ошибками искусственного интеллекта, способны отрезвить. Это является одной из причин, по которой человек должен быть в курсе происходящего. В то же время, искусственный интеллект может выполнять работу с такой интенсивностью и быстротой, которые невозможно достичь при помощи человека, и также выявлять исключения, которые требуют проверки и контроля со стороны человека. В случае необходимости, такое партнерство может помочь в том, чтобы убедиться в том, что ИИ выполняет свою работу качественно.
«Человек не способен воспринимать информацию в течение 24 часов, 7 дней в неделю и выполнять действия за короткие временные промежутки. На данный момент, тест Тьюринга больше не используется. Причина этого заключается в том, что мы говорим о тех же возможностях и возможностях человека, но с улучшением масштаба, скорости и точности в 100 000 раз, так как он может извлекать гораздо больше информации. Об этом заявил Мохамед Элгенди, являясь генеральным директором и соучредителем платформы тестирования AI/ML Kolena. Множество больших языковых моделей используются для того, чтобы оценивать модели до их развертывания и в качестве защитных ограждений после их развертывания.
Существует множество вариантов, когда компания может захотеть установить для чатбота ограничения, которые не позволит ему использовать в качестве названия конкурентов или более сложные конструкции с насилием, галлюцинациями и взломом тюрем. В сфере финансов модели не имеют права давать советы по финансовым вопросам в приложениях, которые не соответствуют стандартам. Это является незаконным.
Идея использования искусственного интеллекта (ИИ) для управления и регулирования других систем ИИ - это важный шаг к обеспечению безопасности, эффективности и нравственной основы данных систем", - говорит Кэш Меррилл, являясь основателем компании Zibtek, занимающейся разработкой программного обеспечения. «На сегодняшний день для осуществления мониторинга ИИ применяются такие методы, которые основаны на моделях машинного обучения, которые могут предугадывать поведение других моделей (мета-модели). Все эти системы, анализируя модели и результаты деятельности операционного ИИ, стараются обнаружить отклонения от нормы или возможные сбои до того момента, когда они станут критичными.
Огромные возможности мониторинга ИИ включают в себя степень его масштабирования, которой не способен достичь человек, более высокий уровень согласованности, поскольку ИИ не нуждается в отдыхе, и глубину анализа, которая базируется на более глубоких закономерностях и корреляциях, которые могут быть упущены при анализе людьми-аналитиками.