Företag kan polisera krypterade meddelandetjänster för potentiella övergrepp mot barn samtidigt som de skyddar integriteten och säkerheten för de människor som använder dem, sade statliga säkerhets- och underrättelseexperter i ett diskussionsunderlag som släpptes i går.
Ian Levy, teknisk chef för Storbritanniens National Cyber Security Center (NCSC), och Crispin Robinson, teknisk chef för kryptoanalys vid GCHQ, hävdade att det var “varken nödvändigt eller oundvikligt” för företaget att välja mellan att göra kommunikationen “osäker av standard” eller skapa “Säkra utrymmen för barnmissbrukare”.
De tekniska cheferna föreslog i ett diskussionsunderlag, Tankar om barnsäkerhet på handelsplattformar, att skanningsprogramvara på klientsidan placerad på mobiltelefoner och andra elektroniska enheter kan användas för att polisera övergrepp mot barn utan att störa människors integritet och säkerhet.
Förslagen kritiserades i går av teknikföretag, kampanjgrupper och akademiker.
Meta, ägaren till Facebook och WhatsApp, sa att de tekniker som föreslagits i tidningen skulle undergräva internet, hota säkerheten och skada människors integritet och mänskliga rättigheter.
Open Rights Group, en internetkampanjgrupp, beskrev Levy och Robinsons förslag som ett steg mot en övervakningsstat.
De tekniska cheferna hävdade att utvecklingen inom tekniken innebär att det inte finns något binärt val mellan den integritet och säkerhet som erbjuds av end-to-end-kryptering och risken för oupptäckta barnsexbrottslingar.
De hävdade i tidningen att övergången till end-to-end-kryptering “i grunden bryter” de flesta av säkerhetssystemen som skyddar människor från material som övergrepp mot barn och att brottsbekämpande myndigheter förlitar sig på att hitta och åtala brottslingar.
“Sexuella övergrepp på barn är ett socialt problem som inte skapades av Internet, och kampen mot det kräver ett svar från hela samhället”, skrev de.
“Men onlineaktivitet tillåter brottslingar på ett unikt sätt att utöka sina aktiviteter, men möjliggör också helt nya onlineskador, vars effekter inte är mindre katastrofala för offren.”
Väntande neural hash
Äpple Försökte introducera skanningsteknik på klientsidan – känd som Neural Hash – för att identifiera bilder av sexuella övergrepp mot barn på iPhones förra året, men lade planerna på is på obestämd tid efter ett ramaskri från ledande experter och kryptografiexperter.
En rapport av 15 ledande datavetare, Buggar i våra fickor: Riskerna med skanning på klientsidan, Postat av Columbia UniversityIdentifierat många sätt som stater, illvilliga aktörer och missbrukare kan omvandla teknik för att skada andra eller samhället.
“Skanning på klientsidan, till sin natur, skapar allvarliga säkerhets- och integritetsrisker för hela företaget, medan den hjälp den kan ge till brottsbekämpning i bästa fall är problematisk”, sa de. “Det finns många sätt som skanning på klientsidan kan misslyckas, kringgås och missbrukas.”
Levy och Robinson sa att det finns en “ohjälpsam tendens” att behandla end-to-end-krypterade tjänster som “akademiska ekosystem” snarare än det verkliga system av kompromisser de faktiskt är.
“Vi har inte hittat någon anledning till varför skanningstekniker på klientsidan inte kan tillämpas säkert i många av de situationer som företaget kommer att stöta på”, sa de.
“Det betyder inte att det inte behövs mer arbete, men det finns tydliga sätt att implementera det som verkar ha de nödvändiga egenskaperna för effektivitet, integritet och säkerhet.”
Möjligheten att personer blir felaktigt anklagade efter att ha skickats bilder som orsakar “falskt positiva” varningar i skanningsmjukvaran kommer att reduceras effektivt genom flera oberoende kontroller innan någon hänvisning till brottsbekämpning.
Risken för “uppdragskrypning”, där skanning på klientsidan kan användas av vissa regeringar för att upptäcka andra former av innehåll som inte är relaterat till barnmisshandel, kan också undvikas, sa teknikcheferna.
Enligt deras förslag skulle barnskyddsorganisationer runt om i världen använda en “konsekvent lista” över kända olagliga bildarkiv.
Databaserna kommer att använda krypteringstekniker för att säkerställa att de endast innehåller bilder av barnmisshandel och deras innehåll kommer att verifieras genom privat granskning.
De tekniska cheferna erkände att missbrukare kan kringgå eller inaktivera skanning på klientsidan på sina enheter för att dela bilder sinsemellan utan upptäckt.
Däremot skulle förekomsten av tekniken på offrens mobiltelefoner skydda dem från att ta emot bilder från potentiella missbrukare, hävdade de.
legitimationsvård
Levy och Robinson föreslog också att köra “språkmodeller” på telefoner och andra enheter för att upptäcka språk relaterat till grooming. Programvaran kommer att varna och uppmana potentiella offer att rapportera farliga samtal till en mänsklig moderator.
“Eftersom modellerna kan testas och användaren är inblandad i leverantörens tillgång till innehållet, tror vi inte att ett sådant tillvägagångssätt drar till sig samma sårbarheter som andra”, sa de.
2018 föreslog Levy och Robinson att tillåta regering och brottsbekämpning “Ett ovanligt tillvägagångssätt” för krypterad kommunikation, liknande att lyssna på krypterade kommunikationstjänster.
Men de hävdade att det är komplext att hantera sexuella övergrepp mot barn, att detaljerna spelar roll och att regeringar aldrig klart har definierat “helheten av problemet”.
“Genom att publicera den här artikeln hoppas vi kunna korrigera informationsasymmetrin och stimulera en mer informerad diskussion”, sa de.
Ineffektiv metadataanalys
Tidningen hävdade att användning av artificiell intelligens (AI) för att analysera metadata, snarare än innehållet i kommunikationen, är ett ineffektivt sätt att upptäcka användning av krypterade tjänster från slut till ände för bilder av övergrepp mot barn.
Många föreslagna AI-baserade lösningar ger inte brottsbekämpande myndigheter tillgång till misstänkta meddelanden, utan beräknar istället sannolikheten för att ett brott har inträffat.
Alla åtgärder som brottsbekämpning kan vidta, såsom övervakning eller arrestering, skulle för närvarande inte uppfylla den höga standarden på bevis som krävs för att brottsbekämpande myndigheter ska kunna ingripa, sa tidningen.
“Längre ner på den här vägen ligger den dystopiska framtiden som skildras i filmen Minoritetsrapport” han lade till.
Internetsäkerhetsräkning
Andy Burroughs, chef för barns onlinesäkerhetspolicy vid barnens välgörenhet NSPCC, sa att tidningen visade att det var fel att antyda att barns rätt till onlinesäkerhet endast kan uppnås på bekostnad av integriteten.
“Rapporten visar att det skulle vara tekniskt möjligt att identifiera barnmisshandel och skötselmaterial i krypterade produkter från ände till ände,” sade han. “Det är tydligt att hindren för att skydda barn inte är tekniska, utan drivs av teknikföretag som vill inte utveckla ett balanserat arrangemang för sina användare.”
Burrows sa att lagförslaget om onlinesäkerhet är en möjlighet att ta itu med barnmisshandel genom att uppmuntra företag att utveckla tekniska lösningar.
“The Online Safety Act är en möjlighet att ta itu med barnmisshandel som sker i industriell skala. Trots andfådda förslag om att lagförslaget skulle kunna “bryta” kryptering, är det tydligt att lagstiftning kan uppmuntra företag att utveckla tekniska lösningar och tillhandahålla säkrare och mer privata online tjänster, sa han.
Förslagen “kommer att undergräva säkerheten”
Meta, som äger Facebook och WhatsApp, sa att de tekniker som föreslagits i tidningen av Levy och Robinson skulle undergräva säkerheten för end-to-end-kryptering.
“Experter är tydliga med att tekniker som de som föreslås i detta dokument kommer att undergräva end-to-end-kryptering och hota människors integritet, säkerhet och mänskliga rättigheter”, säger en talesperson för Meta.
“Vi har nolltolerans mot att utnyttja barn på våra plattformar och fokuserar på lösningar som inte kräver påträngande skanning av människors privata samtal. Vi vill förhindra skada från början, inte bara upptäcka den i efterhand.”
Meta sa att det skyddar barn genom att förbjuda misstänkta profiler, begränsa vuxna från att skicka meddelanden till barn som de inte är släkt med på Facebook och begränsa möjligheterna för konton för personer under 18 år.
“Vi uppmuntrar också människor att rapportera skadliga meddelanden till oss, så att vi kan se det rapporterade innehållet, svara snabbt och kontakta myndigheterna”, sa talespersonen.
Storbritannien driver “oansvarigt”
Michael Weil, docent i digitala rättigheter och reglering vid UCL, skrev i en analys på Twitter Att det var oansvarigt av Storbritannien att trycka på för skanning på klientsidan.
“Andra stater kommer att upprepa samma (defekta, opålitliga) teknik för att kräva att man skannar efter länkar till abortkliniker eller politiskt material”, skrev han.
Vail sa att personer som delar material med sexuella övergrepp mot barn kan undvika att skanna genom att byta till andra kommunikationstjänster eller kryptera sina filer innan de skickas.
“De som förföljs för att de utövar vanliga mänskliga rättigheter på en daglig basis kan inte”, tillade han.
säkerhetshål
Jim Killock, VD för Open Rights Group, sa att skanning på klientsidan skulle ha effekten av att bryta kryptering från slut till ände och skapa sårbarheter som kan utnyttjas av brottslingar och statliga aktörer i cyberkrigföring.
“Storbritanniens cybersäkerhetschefer planerar att invadera vår integritet, bryta kryptering och börja automatiskt skanna våra mobiltelefoner efter bilder som kommer att göra dem till “spioner i fickan”, sa han..
“Detta skulle vara ett stort steg mot en övervakningsstat i kinesisk stil. Vi har redan sett Kina vilja använda liknande teknik för att rikta in sig på politiska motståndare.”