In New York is een onderzoek geopend naar de betaalkaart van technologiegigant Apple en de bank Goldman Sachs na beschuldigingen van discriminatie. Dat bevestigt de regulator van de financiële diensten van de Amerikaanse staat.
Het was de Amerikaanse ondernemer David Heinemeier die de kat de bel aanbond. Hij noemde de Apple Card een “seksistisch programma” op Twitter. “Mijn vrouw en ik dienen samen onze belastingen in en we zijn al lang getrouwd. En toch denkt het ‘black box’-algoritme van Apple dat ik recht heb op een kredietlimiet die twintig keer hoger is”, schrijft hij.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) 7 november 2019
Een algoritme wordt een ‘black box’ genoemd als er niet verklaard kan worden waarom artificiële intelligentie bepaalde beslissingen neemt. In een reeks tweets legt Heinemeier uit dat hij een aantal vruchteloze contacten had met de klantendienst van Apple, die hem niet kon uitleggen waarom hij recht heeft op een hogere kredietlimiet dan zijn vrouw.
Onderzoek
De regulator van financiële diensten van New York opent een onderzoek om te bepalen of “de wet van New York niet geschonden is en of alle consumenten op dezelfde manier behandeld worden, ongeacht hun geslacht”, verklaart een woordvoerder van de dienst.
Apple stelde samen met Mastercard en de bank Goldman Sachs in maart de Apple Card voor. “Onze beslissingen zijn gebaseerd op de kredietwaardigheid van klanten en niet op geslacht, ras, leeftijd, seksuele geaardheid of een andere factor die wettelijk verboden is”, reageert Andrew Williams, woordvoerder van Goldman Sachs.
Het bericht Betaalkaart van Apple is “seksistisch” verscheen eerst op Metro.
