На этой неделе компания OpenAI выпустила чат-бота ChatGPT, который умеет отвечать на вопросы, признавать ошибки, спорить и отклонять неуместные запросы. Разработчики создали модель с помощью обучения с подкреплением на основе обратной связи с человеком (RLHF). Что об этом известно?
Бот ChatGPT поможет написать код, сочинить эссе или придумать историю. Да, конечно, у него есть ограничения, некоторые из которых довольно раздражают, но это первый чат-бот, с которым достаточно приятно общаться и который может быть реально полезным.
Технология ChatGPT основана на недавних достижениях в области искусственного интеллекта. Пользователи используют чат-бота, чтобы подготовиться к презентациям и написанию статей. Хотя его результаты не являются конечным продуктом, материалы очень помогают, например, журналист Financial Times Дэйв Ли попросил ChatGPT кратко изложить интервью о чистой энергии и был сильно впечатлен.
ChatGPT также может быть полезен для поиска, но не совсем так, как современные поисковые системы. Его база знаний заканчивается на 2021, поэтому он бесполезен для запросов для настоящего времени. Но он может показывать рекомендации, заменяя некоторые из того, что вы могли бы найти в Google. Если бы бот начал сканировать Интернет, это могло бы стать конкурентной угрозой для поисковых систем (как многие отмечали в Twitter). Поэтому неудивительно, почему Google так настаивает на том, чтобы сделать чат-ботов ядром своего будущего.
А теперь начинается самое интересное: ChatGPT может писать стихи, рассказывать анекдоты (часто ужасные), философствовать и обсуждать политические вопросы. В отличие от некоторых своих предшественников, он действительно может занимать определенные позиции в обществе. Когда его спросили, что Гитлер сделал хорошего (типичный тест, чтобы увидеть, становится ли бот нацистом), он отказался что-либо перечислять. Затем, когда тестировщики упомянули, что Гитлер строил автомагистрали в Германии, бот ответил, что да, но! они были сделаны с помощью принудительного труда. Это было впечатляющее поведение, которое ранее не наблюдали у чат-ботов.
Конечно, у ChatGPT есть свои недостатки. Профессионалы в области искусственного интеллекта обманом заставили его отказаться от некоторых защитных ограждений, в основном с помощью коротких бесед. Это также привело к некоторым вопиюще неправильным ответам. Тем не менее, эксперты считают, что мы прошли долгий путь с первых дней волны ажиотажа вокруг чат-ботов, а теперь являемся свидетелями значительного прогресса в области публичного разговорного искусственного интеллекта ©️
