Deze Amerikaanse wetgever wil meer onderzoek naar algoritmen die in strafrechtelijke processen worden gebruikt

Vertegenwoordiger Mark Takano (D CA) zegt, Intellectuele eigendomsrechten mogen het gepaste proces niet overtroeven.

AP Photo / J. Scott Applewhite

Deze Amerikaanse wetgever wil meer onderzoek naar algoritmen die in strafrechtelijke processen worden gebruikt

Door Catherine MatacicSep. 23, 2019, 16:10 uur

Sinds het in de jaren 1980 werd geïntroduceerd, is DNA-bewijs een ‘ gold-standaard van Amerikaanse rechtszalen geworden, wat leidde tot de veroordelingen en vrijstellingen van duizenden beschuldigde criminelen. Maar experts worstelen om gedegradeerde of besmette monsters te analyseren en velen zijn begonnen met het gebruik van geavanceerde probabilistische genotyperingssoftware om de waarschijnlijkheid te schatten dat het DNA van een verdachte overeenkomt met DNA op de plaats delict. Zulke zogenaamde forensische algoritmen zijn verre van zeldzaam: ze worden steeds vaker gebruikt voor het schatten van overeenkomsten voor alles, van vingerafdrukken tot geweerlopen tot gezichten in camerabeelden.

Advocaten van defensie hebben zelden toegang tot de broncode of andere informatie die zou verklaren hoe dergelijke software, die vaak bedrijfseigen is, werkt. Dat komt omdat bedrijven bang zijn dat het hun handelsgeheimen of andere soorten intellectueel eigendom zou onthullen. Maar de ondoorzichtigheid heeft zorgen gewekt over billijkheid en transparantie.

Vertegenwoordiger Mark Takano (D CA) heeft vorige week wetgeving geïntroduceerd die het voor beklaagden die geconfronteerd worden met federale strafrechtelijke vervolging gemakkelijker maakt om toegang te krijgen tot forensische algoritmen, en bovendien van de makers van forensische software vereist dat ze voldoen aan de minimumnormen die door de National zijn vastgesteld Instituut voor normen en technologie (NIST).

ScienceInsider heeft Takano ingehaald om de nieuwe rekening te bespreken. Dit interview is bewerkt voor beknoptheid en duidelijkheid.

Vraag: Welke problemen zou deze rekening oplossen?

A: Wat we weten is dat mensen vaak worden veroordeeld met probabilistische modellen als enig bewijs in de zaak. Mensen kunnen in de gevangenis worden gezet, ze kunnen zelfs hun leven verliezen [alleen maar] deze vorm van indirect bewijs. En wat we ook weten, is dat bedrijven die deze technologieën naar voren brengen, de broncode niet willen openen of veel willen uitleggen over de onderliggende gegevens en deze door de verdediging willen ondervragen. We denken dat hier een fundamenteel probleem mee is. Intellectuele eigendomsrechten zouden niet in staat moeten zijn om het juiste proces te doorbreken.

Vraag: Over welke van deze forensische technologieën maakt u zich het meest zorgen?

A: DNA-bewijs [van] probabilistische genotyperingssoftware voor DNA-analyse. Het lijkt erop dat het een ijzeren waarheid is, op dezelfde manier als vele decennia geleden een leugendetectortest [deed]. De attributen van de wetenschap kunnen leiden tot [valse zekerheid] voor jury's en rechters. Het is volledig geschikt en zelfs noodzakelijk voor jury's en rechters om de grenzen van technologie en hoe het werkt te begrijpen.

Vraag: Deze rekening roept NIST op om forensische software te testen. Wat zou het testen?

A: Het is duidelijk dat ze hun analisten zouden laten kijken naar de technologie om te peilen wat de beperkingen zijn, wat de mogelijkheden zijn, en [ze zouden] kijken naar wat de wetenschap daar zegt over gegevens en hoe deze algoritmen werken. We moedigen ze aan om [bedrijven te vragen]: Heb je deze getest en kun je ons gegevens laten zien? Is er een foutenpercentage dat een onevenredige impact op minderheden vertoont, waarbij bijvoorbeeld minderheden ten onrechte worden geïdentificeerd? ”We denken dat elke invalshoek moet worden bekeken in termen van hoe deze systemen zouden kunnen falen.

Vraag: Wat inspireerde deze rekening?

A: Ik praat veel over de opsluiting van mijn familie tijdens de Tweede Wereldoorlog en de Japanse Amerikaanse internering. Wat is het verband daar? Het heeft te maken met privacyrechten, het heeft te maken met een behoorlijk proces. Tegelijkertijd helpt dit de overheid op de hoogte te houden van technologie en helpt het Congres de nieuwste technologie te begrijpen. Het gevaar is dat - of het nu stemsystemen zijn die er helder en glanzend uitzien of mooie kleine zwarte dozen die een resultaat uitspugen - burgers en jury's en rechters en officieren van justitie en advocaten [niet] begrijpen hoe deze systemen werken.

Vraag: Voor welke uitdagingen staat dit wetsvoorstel?

A: Ik denk dat het de algemene kwestie is om de aandacht van de leden, de aandacht van collega's te krijgen en de belangrijkste leden van het subcomité ertoe aan te zetten de onderliggende kwestie te begrijpen en te begrijpen. Ik denk dat dit allemaal heel haalbare dingen zijn. De andere barrière is dat de rechterlijke commissie van het [Huis van Afgevaardigden] nu veel op zijn bord heeft. [Takano verwees naar beschuldigingsonderzoeken tegen president Donald Trump.] Het zijn grotere aandachtstrekkende onderwerpen die op dit moment mijn belemmering kunnen vormen. Maar ik denk ... dit is een geval waarin het Amerikaanse volk [de noodzaak] begrijpt, dus de [inspanning] kan op een tweedelige manier zijn.