Як створити ефективну систему модерації

У статті розповімо, кому і навіщо потрібні системи модерації, які вони бувають, у чому їх плюси та мінуси. А ще поділимося думками, як знизити можливість помилки, і що важливо врахувати автору інтернет-ресурсу з відгуками.

Привіт, Хабре! Кілька місяців тому ми запустили свій відгук для онлайн-шкіл із системою премодерації. Перед цим рік готувалися: вивчали, як інші компанії вирішують питання з модерацією, як користувачі оминають їхні фільтри. Головне, що ми зрозуміли, зібрали у цій статті. Можливо, комусь інформація теж буде корисною і заощадить час і сили, які ми вже витратили.

Спочатку визначся, навіщо тобі модерація

Будь-який автор інтернет-ресурсу створює його не просто так, а з якоюсь метою. Відповідно, у систем модерації теж є мета. Глобально вона так звучить — знизити ймовірність помилки.

Приклад перший - Яндекс.Карти. Сервіс придумано, щоб людям було зручніше орієнтуватися на місцевості. Також вони можуть залишати відгуки про місця, які відвідували, допомагаючи тим самим іншим користувачам оцінити те чи інше місце, заклад, установу. При цьому Яндекс.Карти використовують дані геолокації, якщо вона увімкнена на телефоні користувача, а також дані про відвідуваність тих чи інших сайтів. Це означає, що вони можуть з відносною точністю визначити, в яких місцях людина була, а в яких не була. Тому, якщо користувач захоче залишити відгук про місце, в якому він ніколи не був (вірніше, де не був його телефон), він не зможе цього зробити — система модерації Яндекс.Карт не пропустить такого відгуку, оскільки вважатиме його вигаданим.На цьому прикладі бачимо, що завдання Яндекс.Карт — захистити користувачів від недостовірної інформації у відгуках. Інше питання, наскільки успішно у них насправді це виходить.

Інший приклад — сайти відгуків пацієнтів про лікарів та клініки “ПроДокторів”, “СберЗдоров'я”, “Напрямку”. За твердженнями деяких із них, вони використовують понад 60 критеріїв оцінки достовірності відкликання. Тут треба зробити застереження: медицина дуже конкурентна сфера із досить високим середнім чеком. Тому завдання клінік - відгородитися від дій несумлінних конкурентів, тоді як у відгуків завдання - знизити можливість накрутки відгуків і знизити можливість наклепу. Відповідно причина, чому на відгуку так багато фільтрів, у тому, щоб зробити написання фейкових відгуків максимально дорогим та нерентабельним для тих, хто їх може замовляти. Коли агентство, що спеціалізується на "управлінні репутацією", бачить, що замовлення складне і заряджає цінник до 10 тисяч рублів за один відгук, мимоволі замислишся: а воно тобі треба за такі гроші? Краще вкладатися в якість роботи своєї клініки, ніж оплачувати наклеп на конкурентів або позитивні деферамби про себе коханого.

Приклад третій для споживчого екстремізму — Яндекс.Таксі. Усі, хто користувався їхнім додатком, знають, що оцінити водія та написати негативний відгук можна, лише якщо ти реально замовляв таксі. Люди різні бувають. Деякі заради промокоду на знижку таких гидотів можуть про водія навигадувати. Тому продакт-оунери запровадили модерацію, а також систему оцінки самих клієнтів. Ми вважаємо її однією з найефективніших і справедливих, тому що вона відсіває несумлінних користувачів, захищає від них і компанію, і водіїв.А ще вона дуже зручна, хоч і дуже проста з погляду реалізації, тому що всі сторони взаємин "клієнт-водій" легко встановлюються.

Які бувають системи модерації

Умовно всі системи модерації можна поділити на автоматичні, ручні та гібридні.

Плюси автоматичної системи в тому, що вона дозволяє (вибачте за тавтологію) автоматизувати багато процесів, за якими будуть оцінюватися відгуки, може бути будь-яка кількість. будь-яка автоматична система має похибку. Як приклад наведемо наш недавній випадок на vc.ru. Своєму акаунту і тому створив новий. було, але спрацював алгоритм. Після листа в техпідтримку профіль був розблокований модератори повідомили, що система спрацювала помилково, оскільки жодних правил порушено не було.

Ручна система модерації теж може давати похибку в прийнятті рішень. гібридна.Коли машина робить рутинну роботу, відсіваючи відгуки за певними базовими критеріями, а людина або приймає фінальне рішення (у нас це рішення про публікацію відгуку), або реагує на скаргу (як уже написали вище, модераторам довелося вручну відключати блокування акаунту). .

Третій приклад гібридної системи модерації - Booking.com (на жаль, безодня), а також всі великі медичні відгуки, перераховані вище. У всіх систем спочатку спрацьовує автоматика, але якщо є підозри, що відгук недостовірний, система повідомляє оператору про необхідність ручної перевірки. Наприклад, якщо ти забронював готель через сервіс, відпочив там, залишив гроші — тільки після цього ти можеш залишити відгук, який також може бути перевірений модератором, якщо це необхідно. Це найправильніша стратегія, тому що з її допомогою можна оцінити, чи був у клієнта реальний досвід користувача. Хоча і тут від екстремізму клієнта захиститися не завжди просто.

Що ще потрібно врахувати

1. Дуже важливо враховувати особливості ніші, в якій працюватиме той чи інший сервіс із відгуками. До речі, саме тому пропозиція Артемія Лебедєва щодо створення загальної електронної книги скарг ми як експерти у сфері відгуків вважаємо безглуздим. Неможливо коректно оцінювати інформацію у відгуку загального профілю. Наприклад, ти пішов у поліклініку до терапевта. Щось пішло не так — і ти вже пишеш негативний відгук на поліклініку. Але чи коректно лаятиме медичний заклад, якщо проблема, наприклад, у компетентності конкретного лікаря? У результаті клініка могла вже давно попрощатися з фахівцем, а відкликання продовжує бути розміщене.В онлайн освіті особливості полягають у наступному: одна ТОВ чи ІП може мати велику кількість онлайн-шкіл з різними назвами та різною якістю навчання. Але відгук на всеросійському відгуку вам запропонують залишити саме про ІП або ТОВ, а не конкретну онлайн-школу, у зв'язку з чим творцям курсу, при великій кількості негативних відгуків буде достатньо змінити ІП і продовжити комфортно працювати далі, продаючи неякісний продукт. Є багато інших нюансів, які в контексті цієї теми неможливо врахувати.
2. Головне завдання будь-якої системи модерації встановити, чи був зв'язок між учасниками угоди.

Хочеш результату - дій, вивчай нішу, виправляй помилки, пам'ятай про те, яка у тебе головна мета.