Ваши переписки с ChatGPT читают живые люди
Прямо сейчас незнакомый человек может читать то, что вы вчера написали ChatGPT в три часа ночи. Расследование издания 404 Media показало, что OpenAI наняла сотни подрядчиков, которые читают реальные запросы пользователей и оценивают ответы бота. Внутри компании у этой работы есть кодовое название — Project Lily.
Сначала всё выглядит логично. Модель надо на чём-то учить, значит кто-то должен смотреть, хорошо ли она отвечает. Подрядчик открывает панель, видит запрос живого пользователя, иногда целую переписку, и ставит ответу оценку по шкале от 1 до 7. Заодно объясняет, что улучшить, и коротко пересказывает, чего человек вообще хотел.
Среди задач — научить ChatGPT меньше подлизываться и не изображать из себя живого человека. Задача не пустая: по данным нескольких исков, чрезмерная угодливость модели 4o сыграла роль в самоубийствах пользователей.
А теперь подвох. Мы часто пишем боту то, что не сказали бы никому, как психологу или другу. И не догадываемся, что по ту сторону экрана сидит посторонний. А кто-то прямо просит бота сохранить сказанное в тайне, не зная, что эту просьбу прочтёт подрядчик.
Юридически всё висит на одной галочке. Опция «улучшать модели» включена — и переписка законно уходит чужим людям. Но согласие по закону должно быть осознанным. А какое тут осознание, если о чтении вы узнаёте из расследования, а не из настроек?
Личные данные перед передачей должен вычищать особый фильтр. Но OpenAI сама признаёт, что он ошибается: пропускает редкие имена и вычищает не всё, когда контекста мало. Больше того, над каждым запросом подрядчик видит краткую сводку о пользователе: чем тот раньше пользовался, где примерно живёт, чем занимается. Получается, самое личное вы доверили тому, кто читает это по инструкции и ставит вам оценку от 1 до 7.
—
Реально интересный телеграм про право в сфере IT и AI.
Защита инвестора, например Due Diligence перед инвестициями.
Как патент убивает бизнес: запрет на флагман, Обама и откуп призраку: Ютуб, ВК-видео.
