Учителя ChatGPT попались на списывании у ChatGPT
OpenAI платит людям больше 50 долларов в час, чтобы они учили ChatGPT, и выгоняет за то, что они просят помощи у ChatGPT. Издание 404 Media раздобыло внутренние документы компании, поговорило с 3 подрядчиками и выяснило, что многих проверяющих уже выгнали именно за это.
Сначала всё выглядит разумно. У OpenAI есть целая армия людей, которые читают настоящие переписки пользователей с ботом, предварительно обезличенные, и ставят ответам оценки. По данным Gadget Review, один такой проект называется Project Lily, оценки там ставят по шкале от 1 до 7. Нанимает людей Mercor. Это компания, которая подбирает специалистов для обучения ИИ и работает с ними по договору. В проектах, по словам подрядчиков, может быть занято больше 10 000 человек.
Правила жёсткие. Никакого ChatGPT. Никакого Grammarly, это сервис проверки грамматики. Даже машинный перевод под запретом. Один из подрядчиков сказал журналистам, что за ИИ выгоняют быстрее, чем за что-либо ещё.
Ловят нарушителей по косвенным признакам: повторы слов, лишние длинные тире, слишком быстрая работа. Детекторами ИИ пользоваться нельзя, в инструкции прямо написано, что они ненадёжны. Проверяющим велено не объяснять человеку, на чём он попался. Иначе он научится прятаться.
Один из отстранённых показал письмо о расторжении. Там говорилось о проблемах с «подлинностью» его работы. Он признался, что просто хотел немного помощи и радости от этой работы не чувствовал вообще. Другие, по данным 404 Media, нарочно выбирали худшие ответы, чтобы испортить обучение.
Смысл запрета простой. Если ИИ учится на текстах другого ИИ, он постепенно деградирует. Учёные описали это в журнале Nature ещё в 2024 году и назвали коллапсом модели. При этом доказательств, что ChatGPT из-за нарушителей стал хуже, в расследовании нет.
OpenAI платит за живое человеческое суждение. Поэтому подделку этого суждения она ловит строже всего.
Слабое место здесь доказательства. Компания сама признаёт, что детекторы ИИ ненадёжны, и запрещает ими пользоваться. Значит, решение принимают по общей картине: тире, повторы, скорость. Причину человеку не раскрывают. По сути, подрядчик должен доказать, что он человек, не зная, в чём его обвиняют.
—
Телеграм про право в IT и AI. IT юристы — PravoWeb.com
