Как сайты с изображениями обеспечивают соблюдение политик в отношении контента?

Question

Я пытаюсь выяснить, как наилучшим образом реализовать публичный хостинг данных.

Как веб-сайты, позволяющие пользователям загружать изображения, обеспечивают соблюдение ими условий обслуживания в отношении непристойных изображений? Используют ли они алгоритмы обработки изображений, чтобы пометить потенциальные нарушения (слишком много пикселей цвета кожи)? Я думаю, что Imageshack просматривает веб-сайты, на которых размещены их картинки, и проверяет ключевые слова. Если он обнаружит что-нибудь порнуху связаны между собой, то он снимает картину и запретит счет. Есть ли другие методы?

В значительной степени автоматизировано правоприменение или оно основано больше на отчетах пользователей?

Answer 1

Полагаю, это зависит от масштаба вашей "публичной услуги хостинга данных".

Если это что-то маленькое, а может быть, поступает пара сотен снимков в день, вы можете модерировать их самостоятельно.

Если это пара сотен тысяч, вам понадобится количество людей, разбирающих сорняки. Отчеты о злоупотреблениях представляют либо команда модераторов, либо сами пользователи.

Какой из них выбрать, может зависеть от вашего бюджета / финансового успеха вашей услуги, а также от типа услуги. Если это что-то простое, например Rapidshare, где один не видит, что делает другой, шансы того, что пользователи увидят контент друг друга и через это уведомление и, как мы надеемся, сообщат о неприемлемом контенте, невелики. Если это что-то очень социальное, например, Flickr, вы можете поспорить, что будут поступать отчеты.

Полагаю, вы могли бы что-то автоматизировать, но это почти невыполнимая задача. Вы не можете автоматически обнаружить порно. Вы не можете автоматически обнаруживать изображения, нарушающие авторские права - создание отпечатков из материалов, защищающих авторские права, для сравнения их с загруженными материалами - это настоящая проблема для компаний с такими ресурсами, как Rapidshare, Youtube и другие. Пока такую ​​работу могут эффективно выполнять только люди.

Есть также юридические вопросы. В некоторых странах владелец сервиса не несет ответственности за то, что пользователи вносят (ну, если он достаточно готов к удалению определенного контента по запросу), в других он сам получит плату за то, что он не модерировал весь входящий контент. Также подумайте об этом относительно того, что и куда вы собираетесь запустить.

Answer 2

У меня нет ссылок, но, хотя это, безусловно, трудная задача, склонная к ошибкам, программное обеспечение для обнаружения ненадлежащего контента существует. Или, по крайней мере, это то, что сказал мне менеджер по безопасности в НАСА, - если я просто не могу напугать меня, -)