Hvis du har læst George Orwell’s bog 1984, har du sikkert pejlet dig ind på min bekymring i forhold til ansigtsgenkendelse med AI i det offentlige rum.
“He who controls the past controls the future; he who controls the present controls the past (George Orwell, 1984).”
Set med mit perspektiv medfører loven, som er refereret nedenfor – uanset den gode intention – en række etiske problemstillinger i forhold til at respektere privatssfæren.
Justitsministeriet oplyser i en pressemeddelse den 5. september 2024, at politiet får adgang til at bruge ansigtsgenkendelse med AI i forbindelse med opklaring af kriminalitet i sager med karakter af grov personfarlig vold.
Loven om ansigtsgenkeldelse med AI betyder blandt andet, at politiets efterforskningsarbejde fremover kan foregå hurtigere og mere effektivt uden at forbruge polititimer. Loven give mulighed for at søge efter objekter og ansigter på tværs af videomateriale – men ikke hjemmel til at anvende ansigtsgenkeldelse i realtid.
Hvordan fungerer ansigtsgenkendelse?
Ansigtsgenkendelse starter med, at ophængte kameraer optager billeder og video af ansigt og krop. Andre sensorer registrerer endvidere unikke digitale signaler fra mobiltelefon og personen i øvrigt.
Optagelserne og registreringerne analyseres herefter for unikke ansigtstræk, bevægelse og andre digitale fingeraftryk. Der skabes på baggrund af disse registreringer unikke markører til brug for identifikation. Disse markører kan herefter bruges for nu og altid til fremsøgning og registersamkørsel.
Ansigtsgenkendelse bruges endvidere til andre formål. Sikkerhed og overvågning: Identificering af personer i sikkerhedssystemer. Mobilenheder: Låse smartphones op ved hjælp af ansigtsgenkendelse. Detailhandel: Personaliserer kundeoplevelser og sikring. Retshåndhævelse: Finde mistænkte eller savnede personer.
Ansigtsgenkendelsens etiske problemstillinger i forhold til privatssfæren
Umiddelbart lyder ansigtsgenkendelse med AI som en god ting, for hvem ønsker ikke at støtte op om opklaringen af grove forbrydelser?
I filosofisk sammenhæng åbner loven om ansigtsgenkendelse med AI op for etiske spørgsmål, som hvilke konsekvenser et overvågningssamfund kan medføre for den enkelte borger.
For det første vil jeg nævne privatlivssfæren: Når vores privatliv eksponeres uden samtykke har det den konsekvens, at velkendte aspekter af ens privatliv ikke respekteres: “Privacy has several well recognised aspects, e.g., “the right to be let alone”, information privacy, privacy as an aspect of personhood, control over information about oneself, and the right to secrecy (Bennett and Raab 2006)”.
For det andet medfører digital overvågning med AI, at vores ikke-digitale liv bliver digitaliseret. Indsamlingen af digitale data åbner ligeledes op for, at der kan tegnes digitale profiler af tilfældige mennesker, samt foretages analyser på basis af dataene. Det rejser et under spørgsmål om, hvorvidt den tilgængelige teknologi er i stand til at skelne mellem almindelige mennesker på vej fra A til B vs formodede forbrydere? Eller ender samtlige data i den samme kategori?
For det tredje ser jeg en problematik i lyset af Orwell’s citat om magtens præmisser: Er en overvågnings-kapital ved at se dagens lys? Og i givet fald, hvordan kan denne kapital misbruges etisk og kommercielt?
Læs også min tekst om Er krænkelse den nye anerkendelse?
Bibliografi:
Bennett, Colin J. and Charles Raab, 2006, The Governance of Privacy: Policy Instruments in Global Perspective, second edition, Cambridge, MA: MIT Press.
Müller, Vincent C., “Ethics of Artificial Intelligence and Robotics”, The Stanford Encyclopedia of Philosophy (Fall 2023 Edition), Edward N. Zalta & Uri Nodelman (eds.), URL = <https://plato.stanford.edu/archives/fall2023/entries/ethics-ai/>
Orwell, George, 1984
Link:
https://www.justitsministeriet.dk/pressemeddelelse/politiet-faar-groent-lys-til-ansigtsgenkendelse