Hvis du har læst George Orwell’s bog 1984, har du sikkert pejlet dig ind på min bekymring i forhold til ansigtsgenkendelse med AI i det offentlige rum.
“He who controls the past controls the future; he who controls the present controls the past (George Orwell, 1984).”
Set med mit perspektiv medfører loven, som er refereret nedenfor – uanset den gode intention – en række etiske problemstillinger i forhold til at respektere privatssfæren.
Justitsministeriet oplyser i en pressemeddelse den 5. september 2024, at politiet får adgang til at bruge ansigtsgenkendelse med AI i forbindelse med opklaring af kriminalitet i sager med karakter af grov personfarlig vold.
Loven om ansigtsgenkeldelse med AI betyder blandt andet, at politiets efterforskningsarbejde fremover kan foregå hurtigere og mere effektivt uden at forbruge polititimer. Loven give mulighed for at søge efter objekter og ansigter på tværs af videomateriale – men ikke hjemmel til at anvende ansigtsgenkeldelse i realtid.
Hvordan fungerer teknologien bag ansigtsgenkendelse med AI?
Ifølge ChatGPT involverer ansigtsgenkendelsesteknologien flere nøgletrin og processer. Her er en forenklet oversigt over, hvordan det fungerer:
1. Billedeindhentning
- Ansigtsgenkendelsessystemet starter med at optage billeder eller videoer af ansigtet ved hjælp af kameraer eller sensorer.
2. Ansigtsdetektion
- AI-systemet identificerer og lokaliserer ansigtet i billedet. Dette involverer brug af algoritmer, der kan skelne ansigtstræk fra andre dele af billedet, ofte ved at anvende teknikker som maskinlæring for at genkende mønstre.
3. Detektion af ansigtstræk
- Når et ansigt er detekteret, identificerer systemet nøglepunkter eller landemerker i ansigtet, såsom øjne, næse og mund. Denne fase hjælper med at danne et mere detaljeret kort over ansigtstræk.
4. Trækudtrækning
- Systemet udtrækker unikke træk baseret på landemærkerne. Disse træk skaber en numerisk repræsentation (ofte kaldt en “ansigtsskabelon”) af den enkelte persons ansigt. Teknikker som Convolutional Neural Networks (CNN’er) bruges ofte her til at analysere ansigtets mønstre og karakteristika.
5. Ansigtssammenligning
- Algoritmen sammenligner den ansigtsskabelon, der er lavet fra det nye billede, med eksisterende skabeloner i en database. Denne sammenligning kan gøres enten ved:
- En-til-en-sammenligning: Bekræftelse af, om det nye ansigt matcher en bestemt person.
- En-til-mange-sammenligning: Søge gennem en database for at finde et muligt match blandt mange ansigtstræk.
6. Udgivelse og beslutningstagning
- Baseret på matchningsscoren (et mål for lighed) beslutter systemet, om der er et match, og hvis det er tilfældet, præsenterer det identifikationsoplysninger om personen. Output kan inkludere en tillidsscore, der afspejler nøjagtigheden af genkendelsen.
7. Kontinuerlig læring
- Mange moderne ansigtsgenkendelsessystemer udnytter maskinlæring, hvilket betyder, at de kan forbedre sig over tid ved at lære fra nye data og feedback, hvilket forbedrer nøjagtigheden og reducerer bias.
Ansigtsgenkendelsesteknologier drevet af AI bruges i forskellige anvendelser, herunder: Sikkerhed og overvågning: Identificering af personer i sikkerhedssystemer. Mobilenheder: Låse smartphones op ved hjælp af ansigtsgenkendelse. Detailhandel: Personaliserer kundeoplevelser og sikring. Retshåndhævelse: Finde mistænkte eller savnede personer.
Ansigtsgenkendelsens etiske problemstillinger i forhold til privatssfæren
Umiddelbart lyder ansigtsgenkendelse med AI som en god ting, for hvem ønsker ikke at støtte op om opklaringen af grove forbrydelser?
I filosofisk sammenhæng åbner loven om ansigtsgenkendelse med AI op for etiske spørgsmål, som hvilke konsekvenser et overvågningssamfund kan medføre for den enkelte borger.
For det første vil jeg nævne privatlivssfæren: Når vores privatliv eksponeres uden samtykke har det den konsekvens, at velkendte aspekter af ens privatliv ikke respekteres: “Privacy has several well recognised aspects, e.g., “the right to be let alone”, information privacy, privacy as an aspect of personhood, control over information about oneself, and the right to secrecy (Bennett and Raab 2006)”.
For det andet medfører digital overvågning med AI, at vores ikke-digitale liv bliver digitaliseret. Indsamlingen af digitale data åbner ligeledes op for, at der kan tegnes digitale profiler af tilfældige mennesker, samt foretages analyser på basis af dataene. Det rejser et under spørgsmål om, hvorvidt den tilgængelige teknologi er i stand til at skelne mellem almindelige mennesker på vej fra A til B vs formodede forbrydere? Eller ender samtlige data i den samme kategori?
For det tredje ser jeg en problematik i lyset af Orwell’s citat om magtens præmisser: Er en overvågnings-kapital ved at se dagens lys? Og i givet fald, hvordan kan denne kapital misbruges etisk og kommercielt?
Læs også min tekst om Er krænkelse den nye anerkendelse?
Bibliografi:
Bennett, Colin J. and Charles Raab, 2006, The Governance of Privacy: Policy Instruments in Global Perspective, second edition, Cambridge, MA: MIT Press.
Müller, Vincent C., “Ethics of Artificial Intelligence and Robotics”, The Stanford Encyclopedia of Philosophy (Fall 2023 Edition), Edward N. Zalta & Uri Nodelman (eds.), URL = <https://plato.stanford.edu/archives/fall2023/entries/ethics-ai/>
Orwell, George, 1984
Link:
https://www.justitsministeriet.dk/pressemeddelelse/politiet-faar-groent-lys-til-ansigtsgenkendelse