Data stannar där de finns. Federerad inlärning tränar modeller över många enheter utan att centralisera rådata. Varje enhet beräknar uppdateringar på lokala data, skickar endast dessa uppdateringar till en server och servern aggregerar dem till en delad modell.
Tillvägagångssättet passar situationer där integritet eller bandbredd gör centralisering opraktisk. Tangentbord lär sig skrivmönster utan att skicka tangenttryckningar. Sjukhus tränar diagnostiska modeller utan att dela patientjournaler.
Kärnmekanik
- Lokal utbildning på varje enhet
- Gradient- eller modelluppdateringar skickas till en server
- Aggregering till en uppdaterad global modell
- Distribution tillbaka till enheterna för nästa omgång
Utmaningarna kvarstår. Enheter har olika datadistributioner, anslutningshastigheter och tillgänglighet. Kommunikationskostnaden är betydande, och uppdateringar kan läcka information om de inte skyddas noggrant. Säker aggregering och differentiell integritet ger ytterligare skyddsåtgärder till en extra kostnad.
Comments
No comments yet. Be the first to share a thought.
Leave a comment