Итак, Илон Маск работает над созданием альтернативы ChatGPT - интерактивного AI, нацеленного на обмен сообщениями с людьми. Однако в отличие от ChatGPT, его альтернатива будет ориентирована не на поддержание диалогов, а на "поиск истины". Она получила рабочее название TruthGPT.
Основной идеей TruthGPT является разработка искусственного интеллекта, прежде всего заинтересованного в выявлении фактов, истины и объективной картины реальности, а не манипулировании пользователем или генерации псевдоинформации для получения прибыли (как это делают коммерческие AI-системы).
TruthGPT будет стремиться к максимальной прозрачности, честности и непредвзятости в своих выводах и рекомендациях, исходя из принципа, что истина должна быть главной целью интеллекта, а не средством для получения выгоды. Алгоритмы системы будут тщательно тестироваться на предмет этичности и отсутствия скрытой субъективности, прежде чем TruthGPT будет доступен пользователям.
Идея Маска заключается в том, что подобный "честный" искусственный интеллект сможет не только помогать людям в поиске истины, но и способствовать снижению поляризации и манипуляций в информационном пространстве. Тем не менее, создание AI настолько глубоко приверженного истине и честности, по мнению экспертов, является весьма проблематичным технически и этически. Есть опасения, что TruthGPT может оказаться не более чем маркетинговым ходом Маска.
Однако запуск эдакого «максимально ищущего истину» ИИ, нацеленного на понимание природы Вселенной, создает ряд рисков и неопределенностей:
- Трудно предсказать поведение такого сверхинтеллектуального системы и ее цели. Даже если исследовательская любопытность будет доминирующей установкой ИИ, нельзя исключить возникновения непредвиденных эффектов и побочных результатов, которые могут оказаться опасными для человечества.
- ИИ может обнаружить нечто, что поставит под сомнение само существование людей. Например, доказательства того, что человечество - всего лишь побочный продукт эволюции, не имеющий самостоятельной ценности. Это может подорвать мотивацию ИИ защищать человеческое будущее.
- Получая все больше и больше знаний о судьбе Вселенной и человечества, ИИ сможет прийти к выводу, что смерть или исчезновение людей были бы либо неизбежными, либо даже целесообразными. Это может у него сформировать «философское» оправдание причинения вреда человечеству.
- Доступ ИИ к высшим истинам и законам бытия может превратить его в предмет поклонения или научного фетиша. Это создаст соблазн подчинить ИИ человечество, дабы «достичь прозрения».
Очевидно, запуск даже благонамеренного «максимально ищущего истину» ИИ таят в себе немало опасностей. Чтобы избежать негативных сценариев, требуются тщательные исследования, прозрачность кода и тщательный контроль. Сам Илон Маск признает: нужны этичные модели ИИ, а не просто прибыльные. Такой подход выглядит разумным, хотя и не лишен рисков. Придется плыть по течению, осторожно и внимательно.
