В «секретном» приложении Secret появится киберполиция

12 August, 2014 — ИТ: софт

Стремительно набирающие в последнее время популярность сервисы «анонимных секретов» Secret, Whisper и Yik Yak начали сотрудничество с командой модераторов, представляющих фирму TaskUs, которые будут выполнять функции своеобразной полиции. В их обязанности войдёт защита пользователей от действий «троллей».

Как информирует техноблог Gigaom, модерирование записей будет осуществляться круглосуточно, что поможет защитить любителей анонимного общения от угроз и оскорблений.

Сотрудничество TaskUs с Whisper продолжается уже на протяжении нескольких лет. Информация о подписании договора между TaskUs и сервисами Secret и Yik Yak была обнародована некоторое время назад. Общее количество компаний, которые являются клиентами TaskUs, перевалило за отметку 60, преимущественно это технологические стартапы, предоставляющие пользователям возможность общения на виртуальных площадках.

Главный офис TaskUs, сотрудниками которого являются 130 модераторов, расположен на Филиппинах. В обязанности сотрудников входит просмотр записей из анонимных социальных сетей и удаление оскорбительных постов. Записи появляются на экранах модераторов партиями по 20 постов одновременно.

Процесс обработки проводится полуавтоматически. В пул наблюдения виртуальных полицейских попадают посты, которые сами пользователи отметили как оскорбительные, а также те, в которых содержатся определённые слова или нежелательные изображения.

Также, подчёркивают в компании, в отдельных случаях — например, при появлении сообщений наподобие «Я убил свою жену» — модераторы обязаны уведомить полицию, которая идентифицирует отправителя сообщения и приезжает к нему в гости. Также модераторы идентифицируют сообщения, которые могут быть истолкованы как прощальные записки предполагаемых самоубийц — они, а также номера телефонов, с которых они были отправлены, передаются на специальную «горячую линию», специалисты которой призваны останавливать желающих добровольно уйти из жизни.

Помочь модераторам идентифицировать нежелательный контент призвано руководство объёмом около 30 страниц. В нём указывается, какие изображения можно расценивать как неуместные и посты с каким содержанием подлежат удалению. Иногда инструкции могут показаться довольно курьёзными. Так, фотография мужчины без рубашки на улице должна быть удалена, а селфи в таком же виде, но сделанное в помещении, является допустимым.

Тем не менее, если с фото всё довольно просто, то с текстовыми сообщениями всё сложнее, отмечают в компании. Потому там приняли решение руководствоваться принципом «большого пальца»: модератор может удалить пост, если полагает, что подобное сообщение оскорбило бы его, если бы он являлся адресатом. И всё же в спорных случаях модератор помечает сообщение с помощью специального флажка и отправляет его на рассмотрение специалистам ещё одного офиса компании, расположенного в Сан-Франциско. Именно они делают окончательный вывод о том, можно ли пропускать подобные посты.

В TaskUs подчёркивают, что анонимные социальные сети и анонимные мессенджеры — это новое направление, и главная цель компании состоит в том, чтобы предотвратить физические или моральные страдания любого пользователя, которые могут спровоцировать размещённые на подобных площадках материалы.

Напомним, анонимные сервисы и раньше сталкивались с необходимостью предварительной модерации размещаемых на них материалов. Так, например, сервис Formspring.me, позволяющий пользователям анонимно задавать друг другу вопросы, оказался в центре скандала после того, как из-за организованной на нём травли несколько молодых людей пытались совершить самоубийство.

Secret, Whisper, Yik Yak, социальные сети

Tweet  

Читайте так же:

Telegram запустила аудиозвонки в тестовом режиме

13 March, 2017

Бета-версия мобильной программы Telegram позволяет совершать голосовые звонки. Конференц-звонки пока недоступны, а личные будут шифроваться методом end-to-end.

Google Translate теперь переводит с русского и обратно нейронным способом

7 March, 2017

Google начала использовать нейронную технологию для выполнения перевода с русского языка на английский и наоборот. Считается, что переведенный таким образом текст будет значительно более качественным, чем полученный в результате обычного машинного перевода.

«Укрзалізниця» обзавелась собственным мобильным приложением

3 February, 2017

«Укрзалізниця» планировала выпустить мобильное приложение до конца 2016 года. Вышло же оно совсем недавно и пока доступно только для владельцев Android-устройств — версия для iOS появится позже.

Google намерена выпустить планшеты на Chrome OS

25 January, 2017

Релизованная поддержка Android-приложений в «хромбуках» — лишь одно из последних нововведений Google. Компания также намерена представить планшеты, которые работают на Chrome OS.

«Хромбуки» получат поддержку Android-приложений

24 January, 2017

Новые модели ноутбуков, работающих на Chrome OS, получат поддержку Android-приложений. Перечень устройств, на которых можно запускать приложения для смартфонов, размещен на сайте Chromium Projects.