Обязательно иметь в работающих на крауде процессах какой-то контроль качества
У нас есть несколько базовых приёмов.
• В первую очередь мы используем задания-ловушки. Это задания, на которые нам заранее известен правильный ответ — мы подмешиваем их в задачи, которые выдаём в «Толоку», и следим, правильно или нет человек отвечает. На основе этих данных мы можем экстраполировать и предполагать, правильно или нет он решает все остальные задачи, для которых мы ответов не знаем.
• Другой основополагающий подход, который мы всегда используем в работе с краудом — перекрытие. Каждое задание мы обязательно выдаём разным людям для того, чтобы собрать несколько мнений. Есть модели, которые позволяют предполагать, насколько мнению каждого конкретного исполнителя можно доверять, какое мнение из множества представленных стоит выбрать как финально верное. На основе этих данных можно прогнозировать ожидаемую надёжность исполнителя в следующих заданиях. Мы даже предсказываем качество ответа и можем заранее говорить, стоит ли перепроверить ответ, например, ещё пятью людьми или достаточно спросить ещё только одного.
• Третий базовый инструмент контроля качества — это пост-проверка, когда после выполнения задания мы его проверяем и, если удовлетворены его качеством, выплачиваем деньги толокеру. Мы любим всё декомпозировать и масштабировать, поэтому задания по приёмке тоже отправляем в «Толоку». Получается такая последовательность — один толокер выполняет задание, другие проверяют, правильно оно было сделано или нет, и в зависимости от их вердикта мы принимаем или не принимаем первое задание.