Monitoramento de abuso

O Google tem o compromisso de desenvolver e usar a IA de forma responsável. Para garantir a segurança e a integridade da API Gemini, criamos estas diretrizes de política. Ao usar a API Gemini, você concorda com as diretrizes a seguir, os Termos de Serviço adicionais da API Gemini e a Política de uso proibido da IA generativa.

Como monitoramos o uso indevido

A equipe de confiança e segurança do Google usa uma combinação de processos automatizados e manuais para detectar possíveis usos indevidos da API Gemini e do Google AI Studio e aplicar nossas políticas.

  • Detecção automatizada:sistemas automatizados verificam o uso da API em busca de violações da nossa Política de uso proibido, como discurso de ódio, assédio, conteúdo sexualmente explícito e conteúdo perigoso.
  • Detecção manual:se um projeto apresentar atividade suspeita de forma consistente, ele poderá ser sinalizado para revisão manual por funcionários autorizados do Google.

Como tratamos os dados

O Google retém os seguintes dados por 55 dias para detectar violações da Política de uso proibido:

  • Comandos:os comandos de texto que você envia para a API.
  • Informações contextuais:qualquer contexto adicional que você forneça com seus comandos.
  • Saída:as respostas geradas pela API Gemini.

Como investigamos possíveis problemas

Quando os filtros de segurança e os sistemas de detecção de abuso descritos acima sinalizam comandos ou saídas de modelos, os funcionários autorizados do Google podem avaliar o conteúdo sinalizado e confirmar ou corrigir a classificação ou determinação com base em diretrizes e políticas predefinidas. Os dados só podem ser acessados para revisão humana por funcionários autorizados do Google em uma avaliação de governança interna e uma plataforma de gerenciamento de revisões. Quando os dados são registrados para monitoramento de abuso, eles são usados apenas para fins de aplicação da política e não para treinar ou ajustar modelos de IA/ML.

Trabalhar com você na conformidade com as políticas

Se o uso do Gemini não estiver alinhado às nossas políticas, poderemos tomar as seguintes medidas:

  • Entre em contato:podemos entrar em contato com você por e-mail para entender seu caso de uso e encontrar maneiras de adequar seu uso.
  • Limites de uso temporários:podemos limitar seu acesso à API Gemini.
  • Suspensão temporária:podemos pausar temporariamente seu acesso à API do Gemini.
  • Encerramento da conta:como último recurso e em caso de violações graves, podemos encerrar permanentemente seu acesso à API Gemini e a outros serviços do Google.

Se entrarmos em contato com você sobre uma suspensão ou encerramento de conta, também vamos fornecer um link para contestar.

Escopo

Estas diretrizes de política se aplicam ao uso da API Gemini e do AI Studio.