Para onde vão os dados dos clientes usados pela IA

Quando uma aplicação envia dados de clientes a um modelo de IA, esses dados seguem para o serviço contratado para os processar. A localização, a conservação e a eventual utilização para treino devem ser confirmadas para o produto e a configuração concretos, não apenas pelo nome OpenAI ou Anthropic. Na OpenAI, existem pedidos elegíveis da API com processamento na Europa e retenção zero, mas essa opção não deve ser confundida com uma garantia para qualquer utilização de IA.

Que percurso fazem os dados até ao modelo?

Para avaliar uma solução, convém desenhar o percurso completo da informação: desde a mensagem original até à resposta apresentada ao cliente. Olhar apenas para o fornecedor do modelo deixa parte do circuito por esclarecer.

O levantamento pode seguir estes passos:

1. Identificar a origem. Que informação entra pelo formulário, pela conversa ou pelo documento?
2. Identificar o que a aplicação acrescenta. Segue apenas a pergunta ou também o histórico, dados da encomenda e documentos internos?
3. Identificar os destinatários. Que serviços recebem o conteúdo antes de chegar ao modelo e depois da resposta?
4. Localizar as cópias. Onde ficam conversas, ficheiros e registos técnicos, e quem consegue consultá-los?

Este mapa deve distinguir o sistema que guarda os dados da aplicação que os envia ao modelo. A recomendação é enviar apenas o conteúdo necessário para a tarefa, em vez de dar ao agente acesso indiscriminado a toda a informação disponível.

No caso da Pura Rituals, criámos um agente para Instagram, WhatsApp e site, apoiado numa base de conhecimento sobre produtos e perguntas frequentes. A ligação com este tema está no percurso entre os canais de atendimento, a base de conhecimento e o agente, que convém mapear em qualquer projeto semelhante.

Os dados são usados para treinar os modelos?

A decisão de contratação deve exigir uma resposta explícita a esta pergunta. Não se deve assumir que todas as modalidades de um fornecedor têm as mesmas condições, nem transportar uma resposta sobre a OpenAI para a Anthropic.

Convém separar conceitos que, numa conversa comercial, podem aparecer misturados:

• Processamento: utilização do conteúdo para produzir a resposta pedida.
• Retenção: conservação do conteúdo depois desse processamento.
• Treino: utilização do conteúdo para ajustar o modelo.

Uma resposta como «os dados não são usados para treino» deixa por esclarecer se ficam guardados, durante quanto tempo e para que finalidades. Uma indicação de alojamento europeu também não responde, por si só, à questão do treino.

Antes de enviar informação de clientes, a empresa deve pedir confirmação escrita sobre a utilização das mensagens, dos ficheiros e das respostas. Deve esclarecer também se existem configurações a ativar, exceções ou condições diferentes para funcionalidades específicas.

Na OpenAI, a opção europeia para pedidos elegíveis da API associa processamento na região a retenção zero. Essa condição deve ser verificada para os pedidos efetivamente utilizados. Quanto à Anthropic, a seleção deve ficar dependente da confirmação das condições do serviço concreto, incluindo treino, retenção e localização, antes de autorizar dados pessoais.

Que opções existem para manter os dados na Europa?

Há uma diferença entre guardar informação na Europa e realizar o processamento na Europa. A primeira pergunta trata do local onde o conteúdo fica armazenado; a segunda trata do local onde é executado o pedido ao modelo.

Para uma aplicação ligada diretamente ao modelo, a OpenAI permite escolher processamento europeu em pedidos elegíveis da API, com retenção zero nesses pedidos. Uma API é a interface através da qual uma aplicação comunica com outro serviço. Esta opção deve ser avaliada quando se pretende integrar IA num sistema próprio e controlar o destino dos pedidos.

A documentação da plataforma identifica o ponto de acesso europeu eu.api.openai.com, associado aos controlos de dados. A configuração técnica deve corresponder à região contratada: a indicação «Europa» numa proposta precisa de ter correspondência na implementação.

Para utilização numa ferramenta de trabalho, a OpenAI anunciou que novos clientes do ChatGPT Enterprise e Edu podem escolher armazenamento do conteúdo em repouso na Europa. Esta opção responde à localização do conteúdo armazenado; não deve ser apresentada como equivalente à opção de processamento europeu da API.

A escolha depende, portanto, da utilização pretendida. Para integrar um agente num sistema da empresa, interessa avaliar a API e os seus controlos. Para trabalho numa interface de conversação, interessa verificar as condições da modalidade contratada. Em ambos os casos, devem ser avaliadas separadamente as restantes aplicações que recebem ou conservam informação.

Que acordo de tratamento de dados deve existir?

O RGPD exige que o tratamento por um subcontratante seja regulado por contrato ou outro ato jurídico vinculativo, com indicação do objeto, duração, natureza e finalidade do tratamento, tipos de dados pessoais e categorias de titulares, conforme o texto do regulamento.

Esse contrato deve também estabelecer os direitos e obrigações do responsável pelo tratamento, nos termos do artigo 28.º do RGPD. A decisão da Comissão sobre cláusulas contratuais confirma a exigência de contrato escrito, incluindo em formato eletrónico.

Na contratação, este documento é frequentemente designado por acordo de tratamento de dados, ou DPA, da expressão inglesa Data Processing Agreement. A análise deve verificar se o acordo corresponde ao serviço realmente utilizado, em vez de aceitar apenas uma referência genérica a «conformidade com o RGPD».

Vale a pena pedir que fiquem claros os intervenientes, as finalidades autorizadas, os acessos e o destino dos dados quando termina a prestação do serviço. As respostas devem ser coerentes com o mapa técnico: quem aparece no contrato deve corresponder a quem participa no tratamento.

Para tratar questões que vão além do destino dos dados, como o enquadramento de chatbots e campanhas numa loja online, o artigo sobre obrigações de RGPD e AI Act no comércio eletrónico desenvolve essa perspetiva.

Que informação deve ficar fora dos pedidos ao modelo?

Como regra de desenho, deve retirar-se tudo o que não ajuda a executar a tarefa. Para explicar uma condição de entrega, não deve ser necessário enviar o histórico completo do cliente. Para classificar um pedido, pode bastar o texto relevante, sem os restantes campos da ficha.

A política interna deve prever exclusões claras:

• Palavras-passe, chaves de acesso e códigos de autenticação.
• Dados completos de cartões ou credenciais bancárias.
• Documentos de identificação e dados de saúde sem necessidade demonstrada e avaliação específica.
• Exportações integrais de clientes quando a tarefa só exige um conjunto limitado de informação.

Antes da entrada em produção, convém testar com conteúdo sem dados pessoais e verificar exatamente o que sai da aplicação. Deve também definir-se o que acontece quando o próprio cliente envia informação desnecessária: por exemplo, removê-la antes do pedido ou encaminhar a situação para uma pessoa.

A preparação descrita na página sobre como organizar um projeto de automação à medida ajuda a enquadrar esta análise no processo de trabalho, antes da implementação.

O próximo passo prático é escolher um único fluxo e preencher uma ficha com os campos enviados, os serviços destinatários, a região, a retenção e o acordo aplicável. Qualquer resposta por confirmar deve ficar assinalada antes de autorizar a utilização de dados reais.

Perguntas frequentes

Usar a API significa que os dados ficam na Europa?

A região deve ser confirmada na configuração e nas condições do serviço. Na OpenAI, existe uma opção europeia para pedidos elegíveis da API; não deve ser presumida para qualquer pedido.

Retenção zero significa que não há cópias em nenhum sistema?

A verificação deve abranger cada componente. Mesmo quando o pedido ao modelo beneficia de retenção zero na opção europeia elegível da OpenAI, deve confirmar-se separadamente o que fica guardado nos canais, na aplicação e nos registos técnicos.

Basta retirar o nome do cliente antes de enviar a mensagem?

Não se deve usar esse critério isoladamente. A revisão deve procurar também contactos, moradas, referências de encomendas e detalhes do texto que permitam identificar a pessoa. O objetivo prático é enviar apenas a informação necessária para a resposta.