Cybersäkerhetsexperten Katelyn Bowden från hackerkollektivet Cult of the Useless Cow och marknadschef på Veilid Challenge har betonat behovet av mer transparens kring hur AI-verktyg som Recall används. Hon poängterar att om Microsoft börjar samla in knowledge för användning i rekommendationsmotorer eller modeller utanför maskinen, kan användarnas integritet äventyras. Bowden efterlyser ökad transparens kring vilka datauppsättningar som används för att träna programvara och uttrycker oro över Microsofts brist på transparens i detta avseende.
Gary Marcus, grundare och vd för Geometric Intelligence, har likaså uttryckt starka reservationer mot Recall, kallande det för ”företaget som vill spela in bokstavligen allt du någonsin gör på din dator” och förutspår att det kommer att bli ett av de största cybermålen i historien.
Sammanfattningsvis pekar experterna på riskerna med att lagra och indexera allt innehåll som visas på skärmen, särskilt utan tillräcklig transparens och integritetsskydd. De uppmanar until försiktighet och efterlyser mer detaljerad data från Microsoft om hur knowledge hanteras och skyddas för att minimera risken för missbruk och intrång i privatlivet.
Vad är Microsoft Recall och varför kallas det spionprogram av säkerhetsexperter?
Microsoft Recall är inte ett känt begrepp eller programvara. Det kan vara ett felaktigt angivet namn. Om du syftade på Microsoft Outlook, kan det förvärra problemet med riktiga begrepp. Zooms until viss del integritetsproblem är ett exempel på detta, där tredjeparts program kan komprometteras och potentiellt användas för spionmål. Enligt Tom’s Information har Zooms webbgränssnitt drabbats av säkerhetsbrister vilket medför att det kan fungera som spionprogram.
Microsofts nya AI Recall-funktion undersöks av europeiska tillsynsmyndigheter
Europeiska tillsynsmyndigheter har inlett en undersökning av Microsofts nya AI-funktion Recall, som kritiker menar kan innebära risker för användarnas integritet. Funktionen, som ingår i Microsofts nya AI-datorer, tar kontinuerligt skärmdumpar av användarens aktivitet på datorn, vilket sedan kan sökas igenom med hjälp av AI. Detta har lett until omedelbar kritik från dataskyddsadvokater och konsumenter, inklusive Elon Musk, VD för Tesla och grundare av xAI.
Data Commissioner’s Workplace (ICO), Storbritanniens dataskyddsmyndighet, har uttalat att företag måste noggrant bedöma och mildra risker för människors rättigheter och friheter innan de lanserar nya produkter, särskilt sådana som potentiellt kan vara invasiva. ICO har kontaktat Microsoft för att få mer data om Recall och dess skyddsmekanismer för användardata.
Även den irländska Dataskyddsmyndigheten, som är Microsofts huvudsakliga dataskyddsmyndighet inom EU, har begärt ytterligare data från Microsoft angående Recall. Myndigheten vill förstå vilka skyddsåtgärder som finns på plats för att skydda användarnas integritet.
Microsoft hävdar att skärmdumparna lagras lokalt på datorerna, krypteras och endast kan nås av den individual vars profil användes för att logga in på datorn. Användare kommer också att kunna filtrera bort specifika appar eller webbplatser från att scannas, pausa insamlingen av skärmdumpar och radera vissa eller alla skärmdumpar lagrade på deras enhet. Trots dessa åtgärder finns det fortsatt oro för hur funktionen kan utnyttjas och vilka konsekvenser det kan ha för användarnas privatsfär.