Skip to main content
Skip to content
Machine Learning

Federated Learning

Treinar um modelo entre vários detentores de dados, hospitais, agências, parceiros, sem nenhum deles entregar os seus dados. O modelo viaja. Os registos ficam.

01 / 04

Os dados não podem ser juntados

Processos clínicos, históricos de contas, registos de produção: a lei ou o contrato dizem que ficam. Cada local sozinho tem poucos casos para aprender. Um conjunto de treino central está fora de questão.

CH.01 · O problema

Os dados que fariam o modelo bom não podem ser juntados.

  1. Os registos não podem sair

    Processos clínicos, históricos de contas, registos de produção. A lei, o contrato ou a administração dizem que ficam onde estão. Um conjunto de treino central está fora de questão.

  2. A conformidade para o projeto

    Um acordo de partilha de dados entre três organizações leva um ano e uma equipa jurídica. A maioria dos projetos não sobrevive à espera.

  3. Cada local sozinho é pequeno demais

    Um hospital tem algumas centenas de casos da condição. Cinco hospitais juntos teriam o suficiente para aprender. Separados, nenhum consegue.

A nossa resposta

Levar o treino aos dados

Cada local treina o modelo nos seus próprios registos, dentro do seu perímetro. Só as atualizações do modelo viajam, combinadas de forma que nenhuma se revela. O resultado é um modelo que aprendeu com todos os locais, e nenhum registo se moveu.

CH.02 · O que construímos

Como construímos

Três partes: treino em cada local, combinação segura das atualizações, e devolução do resultado.

Os dados ficam em cada localAtualizações combinadas, nunca expostasConformidade incorporadaUm modelo de muitos locais
01

Treino local

O modelo corre em cada participante, na sua máquina.

  • Instalar o cliente de treino dentro do perímetro de cada local
  • Alinhar formatos de dados sem mover dados
  • Treinar nos registos locais durante uma ronda
  • Manter os registos brutos no local, sempre
  • Registar cada ronda para a auditoria do próprio local
02

Agregação segura

O coordenador combina o que não consegue ler.

  • Recolher atualizações dos locais em cada ronda
  • Combiná-las de modo que nenhuma atualização isolada seja visível
  • Adicionar ruído onde é exigida uma garantia mais estrita
  • Lidar com locais que saem a meio da ronda
  • Verificar a atualização combinada antes de ser usada
03

Distribuição do modelo global

Todos recebem o modelo melhorado de volta.

  • Enviar o modelo combinado a todos os locais
  • Avaliar em cada local com dados locais reservados
  • Comparar com uma base treinada só no local
  • Repetir rondas até o ganho estabilizar
  • Passar o modelo a produção em cada local
CH.03 · Como corre

Como corre

Quatro fases, dos participantes à mesa a um modelo em cada local.

  1. 01Fase 1

    Avaliação

    Participantes, dados, regras, a pergunta.

    • Definir a previsão e como será usada
    • Confirmar os dados de cada local e as suas restrições
    • Acordar o protocolo e a garantia de privacidade
  2. 02Fase 2

    Infraestrutura

    Clientes em cada local, coordenador no meio.

    • Instalar o cliente de treino em cada local
    • Configurar o coordenador e a agregação segura
    • Alinhar esquemas sem mover dados
  3. 03Fase 3

    Desenvolvimento do modelo

    Rondas, avaliação, repetir.

    • Correr rondas de treino entre os locais
    • Avaliar em cada local com dados reservados
    • Comparar com a base só do local
  4. 04Fase 4

    Produção

    O modelo em cada local, monitorizado.

    • Passar o modelo a produção em cada local
    • Monitorizar o desempenho por local
    • Agendar novas rondas à medida que os dados crescem
CH.04 · O que muda

O que muda

Um modelo treinado com dados que nunca poderiam ser juntados, com o argumento de conformidade escrito no desenho.

O projeto pode começar

Sem acordo de partilha de dados, porque nenhum dado é partilhado. O jurídico revê um protocolo em vez de uma transferência.

Um modelo melhor do que qualquer local conseguiria treinar

Medido em cada local contra um modelo treinado só com os seus dados. O ganho vindo dos outros locais é um número, por local.

Cada participante mantém o controlo

Um local pode ver o que contribuiu, pausar ou sair. Os seus registos nunca saíram do edifício, por isso não há nada a recolher.

Lado a ladoTreino centralFederated learning
Para onde vão os dadosPara um repositório centralPara lado nenhum
PrivacidadeDepende da segurança do repositórioOs registos nunca saem; atualizações combinadas sem serem vistas
ConformidadeAcordos de partilha, transferências, residênciaUma revisão de protocolo
Dados que o modelo vêO que pôde ser transferidoTodos os locais participantes
InfraestruturaUm grande ambiente de treinoUm cliente por local, um coordenador no meio
CH.05 · Perguntas

Perguntas

Uma forma de treinar um modelo com dados guardados em vários sítios sem mover os dados. Cada sítio treina nos seus próprios registos e devolve só a atualização do modelo. Um coordenador combina as atualizações num modelo melhor e envia-o de volta. Repete-se até o modelo deixar de melhorar. Nenhum registo sai do sítio onde vive.

Primeiro, os dados brutos nunca saem de um local. Segundo, as atualizações são combinadas com agregação segura, por isso o coordenador vê só a soma, nunca a contribuição de um local. Onde é precisa uma garantia mais estrita, adiciona-se ruído às atualizações. O protocolo e a garantia são escritos e revistos por cada participante antes de uma ronda correr.

Saúde, onde os registos clínicos ficam em cada hospital. Serviços financeiros, onde os dados de contas ficam em cada instituição. Grupos industriais com fábricas em várias jurisdições. Qualquer caso em que vários detentores de dados semelhantes querem um modelo e nenhum pode partilhar os dados.

Normalmente perto, e sempre melhor do que qualquer local consegue treinar sozinho, que é a comparação que importa quando juntar não é opção. Medimos em cada local contra a base só do local e reportamos os números por local.

Mais em Machine Learning

O mapa da prática

Voltar a Machine Learning
Começar

Traga-nos o problema que ninguém resolveu.

Somos uma equipa pequena de especialistas seniores. Escolhemos o modelo certo e a camada certa, e construímos o mínimo de maquinaria que resolve o problema. Tem uma chamada com um engenheiro, não um deck de vendas.