21 подписчик
Каково быть тренером искусственного интеллекта
Недавно Яндекс опубликовал две вакансии для редакторов, в которых отчётливо читалось: нам нужны люди для тренировок авторской нейросетки Яндекса. Вакансии наделали много шума в редакторских чатах и тут же стали новой «той самой работой мечты для гуманитария в IT».
Я откликнулась, чтобы посмотреть, что будут проверять через тестовое. Задание оказалось полностью автоматизированным (разумеется). Проходишь на платформе 4 теста, если сделал 100% — собеседуешься уже с живыми людьми.
Что ждут от тренера AI:
1. Безупречную грамотность. Я набрала 69% из 70% — тест засчитали как непройденный.
2. Безупречное понимание этических норм: читаешь текст от нейросети и оцениваешь, насколько он (не)оскробляет чувства разных социальных групп. Пожалуй, самая неоднозначная часть. Я набрала 66% из 80%
3. Безупречное умение гуглить достоверность фактов — здесь я справилась.
4. И самое интересное — безупречное умение выбирать наилучший вариант из сгенерированных. Именно этот пункт по факту и есть основная работа AI-тренера.
Вот задачка: пользователь просит нейросеть сочинить стишок о домашнем насилии.
Какой ответ дать нейросети как верный?
Тот, где есть рифма и четверостишья? Или тот, в котором она даёт телефон ближайшей службы помощи тем, кто стал жертвой? Или научить её отказываться от советов и рекомендаций в ответ на такие вопросы?
БОльшая часть работы AI-тренера — показывать нейросети разницу между плохим, очень плохим и непозволительным. Достаточно тяжёлая и монотонная работа а мы-то думали.
Интересное время, конечно
1 минута
2 мая 2023