Как предотвратить загрузку нежелательного контента в AWS с Rails?

Question

У меня есть приложение Rails 5, которое позволяет пользователям загружать изображения в свои профили с помощью нового ActiveStorage с процессом хранения AWS S3.

Я искал способ обнаружить недопустимый контент / явные изображения в загрузках, чтобы я мог запретить пользователю отображать их в своих учетных записях, но я не уверен, как мне это сделать.

Я не хочу модерировать загрузку контента.Я знаю, что есть способы разрешить пользователям "помечать как неприемлемые".Я бы предпочел вообще не разрешать загрузку явного контента.

Я полагаю, что лучшим решением было бы, чтобы приложение Rails обнаружило явный контент и вставило изображение-заполнитель вместо неподходящего изображения пользователя.

Одной из идей было AWS Rekognition.Кто-нибудь успешно реализовал решение этой проблемы?

Answer 1

Вы можете реализовать функцию AWS Lambda в Ruby, которая будет запускаться каждый раз, когда ваше изображение загружается на S3.Затем эта лямбда-функция может вызывать AWS Rekognition.Вы можете узнать о том, как использовать AWS Rekognition для обнаружения небезопасных изображений, здесь: https://docs.aws.amazon.com/rekognition/latest/dg/procedure-moderate-images.html.

Я использовал Rekognition раньше, но для другого варианта использования.Вы можете узнать больше здесь: https://github.com/johannesridho/aident

Answer 2

Почему это должно быть так сложно?Большинство веб-сайтов просто позволяют вам помечать пользовательский контент как плохой, и тогда администратор может просмотреть его для удаления.Это может занять совсем немного времени, если вы обнаружите, что это неадекватно после того, как вы это внедрите, вы можете попробовать что-то другое, но я бы не стал прыгать прямо к самому сложному и дорогостоящему ответу на проблему.