Reflexões e considerações mais amplas
Este é o post final no série que começou com reflexões e aprendizados da primeira colaboração EUA-Reino Unido trabalhando com Tecnologias de Aprimoramento de Privacidade (PETs). Uma vez que o Desafios do Prêmio PETs, o ecossistema em torno dessas tecnologias continuou a se desenvolver, com uma mudança de conversas mais teóricas e acadêmicas para uma maior aceitação e consideração de PETs.
Desde o nossoprimeiro post em dezembro de 2023, esta série explorou uma variedade de considerações práticas relevantes para trabalhar com a Aprendizagem Federada de Preservação da Privacidade (PPFL), desde a compreensão de diferentes tipos deAtaques à privacidade e formas de mitigar seus riscos à privacidade dos indivíduos, para explorar a importância deentrada esaída privacidade. Por meio de postagens recentes, também ouvimos colaboradores convidados que foram vencedores e juízes nos Desafios do Prêmio PETs. Eles compartilharam pensamentos e considerações paraescalabilidade,implementação,Desafios do pipeline de dadose muito mais.
O escopo desta série de blogs reflete a amplitude de insights e considerações que emergiram dos Desafios do Prêmio PETs, mas há outros aspectos do trabalho com o PPFL que os desafios – e esta série – não abordaram. Isso inclui considerações para trabalhar com dados reais em várias jurisdições. O PPFL pode eliminar a necessidade de transferir, armazenar ou processar dados reais centralmente; Isso é útil quando os conjuntos de dados devem permanecer descentralizados (por motivos políticos ou técnicos). No entanto, precisamos de pesquisas para informar nossa compreensão das aplicações do mundo real de PPFL e PETs em geral. O NIST está pesquisando as considerações e incômodos das implantações de PPFL do mundo real por meio do PETs Testbed, hospedado pelo Centro Nacional de Excelência em Segurança Cibernética do NIST (NCCoE).
Colaboração futura
Como uma abordagem relativamente nova e emergente para trabalhar com dados de maneira centrada na privacidade, a PPFL tem o potencial de apoiar uma maior inovação e promover a colaboração no futuro.
O Reino Unido e os EUA concordaram em promover iniciativas de colaboração em PETs. Com base nesse compromisso e nas percepções de nossa colaboração anterior, o Serviço Nacional de Registro de Doenças do Reino Unido e o Instituto Nacional do Câncer dos EUA estão trabalhando juntos nos próximos meses para explorar como os PETs podem impulsionar pesquisas inovadoras sobre cânceres pediátricos raros por meio da colaboração de dados segura e que preserva a privacidade entre os registros nacionais de doenças. Ao usar PETs, os pesquisadores podem fazer análises de dados internacionais sem a necessidade de transferência de dados ou acesso direto; Eles podem obter insights mais profundos sem comprometer a privacidade dos dados. Esta atividade está sendo apoiada pelo Departamento de Ciência, Inovação e Tecnologia do Reino Unido, pelo Escritório de Política Científica e Tecnológica da Casa Branca, NIST e pelo Departamento de Energia dos EUA, e coordenada com a National Science Foundation.
A colaboração usando PETs, como o PPFL, permitirá que os pesquisadores contornem os desafios que surgem da escassez de dados em países individuais. O uso de uma abordagem federada como mecanismo de consulta e/ou modelagem de dados permitirá que os pesquisadores analisem dados sobre cânceres pediátricos raros de maneira a preservar a privacidade. Isso também permitirá que os pesquisadores analisem informações de maneiras que antes não eram possíveis devido à disponibilidade limitada de dados (no momento, nenhuma jurisdição tem acesso a um conjunto de dados grande o suficiente abrangendo tipos de tumores ultra-raros para realizar essa análise por conta própria).
Essa abordagem também oferece potencial para dimensionar a pesquisa a longo prazo, para incluir dados adicionais de outras jurisdições na análise. A expansão para mais países poderia apoiar umaIniciativa Global promover a colaboração no câncer pediátrico.
Pesquisa continuada
O ecossistema mais amplo em torno do PPFL continua a se desenvolver, com o estabelecimento de mais fóruns de discussão e mais oportunidades para formuladores de políticas e pesquisadores se alinharem e colaborarem no horizonte.
Para investigar melhor os PETs e sua respectiva adequação a casos de uso específicos, o NIST lançou o PETs Testbed. Em colaboração com o Equipe XD do US Census Bureau e oferecido através do NCCoE, o primeiro problema de modelo é uma arquitetura de modelo PPFL com um caso de uso genômico. A solução do modelo wIsso nos permite explorar os contornos da dificuldade em implantar o PPFL para resolver problemas do mundo real. O NIST está criando metrologia de privacidade e utilidade para apoiar a compreensão de seu relacionamento (por exemplo, compensações) no contexto do aprendizado federado. A arquitetura passará por uma avaliação de ameaça à privacidade que envolverá o uso de ferramentas como oEstrutura de privacidade do NIST e os resultados de um exercício de red-teaming de privacidade. Essas avaliações servirão como uma estrutura para ajudar as organizações a navegar pelas compensações em um sistema PPFL.
Informações adicionais
Como uma abordagem emergente para trabalhar com dados, ainda há muito a aprender e explorar sobre PPFL e PETs de forma mais ampla, na teoria e na prática. Os links abaixo fornecem mais informações sobre isso, incluindo exemplos de casos de uso do mundo real:
- NIST PETs Testbed
- Desafios do Prêmio PETs
- Custos e benefícios associados aos PETs
- Informações e recursos da OCDE sobre PETs
Se você gostaria de compartilhar comentários ou ideias adicionais, entre em contato conosco emAnimais [at] dsit.gov.uk (Animais[at]dsit[dot]Gov[dot]Reino Unido) ouPrivacyeng [at] nist.gov (Privacyeng[at]Nist[dot]Gov).