Atualmente, o uso de imagens compartilhadas em diversas plataformas e aplicativos virou uma prática comum.

Porém, existe uma preocupação crescente pela presença de conteúdo impróprio, como imagens com conotação adulta, racista ou violenta. Considerando essa problemática, implementamos uma funcionalidade de bloqueio automático de imagens impróprias na plataforma Botmaker. Junto com a tecnologia do Google Cloud Vision, podemos analisar o conteúdo das imagens enviadas pelos usuários em tempo real e determinar se possuem conteúdo inadequado, garantindo, assim, um ambiente seguro.

Leitura estimada: 05 minutos

O que é a funcionalidade?

É o bloqueio automático de imagens impróprias enviadas pelo usuário. Essas são as características do novo recurso:

• Analisa o conteúdo das imagens enviadas pelo usuário para detectar conteúdo adulto, racista ou violento.
• Utiliza um serviço do Google chamado Cloud Vision para fazer essa análise.
• O sistema faz uma revisão automática das imagens usando algoritmos de inteligência artificial e aprendizagem automática.
• Caso seja detectado conteúdo impróprio na imagem, o sistema bloqueia a visualização automaticamente.
• O bloqueio é feito em tempo real, o que significa que o usuário não será exposto a imagens impróprias.
• Essa funcionalidade é implementada para manter um ambiente seguro, livre de conteúdo ofensivo.

Como fazer a configuração na plataforma?

Em Menu > Configurações > Segurança (https://go.botmaker.com/#/configuration/security), você pode habilitar ou desabilitar a funcionalidade deslizando a barra para a posição de ligado.

Cada imagem recebida e analisada tem um custo que é detalhado na seção de Ações premium.

As imagens bloqueadas podem ser vistas na tela de chats em qualquer conversa, desde que você tenha a funcionalidade ativada na seção de configuração.

Nota : lembre que, apesar de receber a notificação de conteúdo impróprio, você pode visualizar a imagem _ caso clique diretamente nela _.

Implemente a funcionalidade de bloqueio automático de imagens impróprias para oferecer a seus usuários um ambiente seguro e livre de conteúdo ofensivo, promovendo uma experiência positiva e sem riscos.

Lembre-se de visitar nossa Central de Ajuda para mais informações.

Escrito por: Equipe Botmaker

Atualizado: 09/02/2024