crazytotech
Startups in Silicon Valley lijken het soms hun doel te hebben gemaakt om de meest dystopische toepassingen van kunstmatige intelligentie te vinden. Eerder deze maand hadden we de racistische chatbot van Meta en de door AI gegenereerde rapper die het n-woord gebruikt, daarvoor hoorden we in juni over de AI van Google die zo goed was dat het een ingenieur ervan overtuigde dat het bewust was. Deze keer heeft de in Palo Alto gevestigde startup Sanas een kunstmatige intelligentie in de wereld geïntroduceerd die tot doel heeft buitenlandse callcentermedewerkers neutraal te laten klinken, en de effect om ze wit te laten klinken.
Zoals gemeld SFGATE, Sanas is een startup die “accentvertaling” levert aan callcentermedewerkers, een taak die meestal wordt uitbesteed aan goedkopere overzeese markten zoals India en de Filippijnen. Sanas, dat is opgericht door drie afgestudeerden van Stanford, biedt een real-time vertaalservice voor accenten, zogenaamd om het voor callcentermedewerkers gemakkelijker te maken om het te begrijpen. Het heeft al meer dan $ 30 miljoen aan durfkapitaalfinanciering ontvangen.
“We bedoelen niet dat accenten een probleem zijn omdat je er een hebt”, zei Sanas-president Marty Sarim. SFGATE. “Ze zijn alleen een probleem omdat ze vooroordelen en misverstanden veroorzaken.”
FBI: interview met fraudeurs voor banen op afstand met behulp van deepfake-technologie
Van de demo die je kunt proberen op de Sanas-website, waar je “de magie kunt horen”, het werkt echt. De software verwijdert niet alleen het accent, maar vervangt de stem door iets griezelig robotachtigs dat klinkt als een standaard Amerikaans-Engels accent. Volgens zijn website gelooft Sanas dat dit callcentermedewerkers in staat zal stellen “de kracht van hun eigen stem terug te winnen”.
Een veel voorkomende vergelijking met de AI van Sanas is de film uit 2018 Sorry voor het storen waar de hoofdpersoon, een zwarte man, een “blanke stem” aanneemt om meer omzet te krijgen bij zijn dystopische callcenterbaan. Terwijl Sanas beweert dat zijn AI bedoeld is om vooringenomenheid te bestrijden, beweren critici dat “accentvertaling” een andere manier is om een toch al onmenselijke baan te ontmenselijken.
“Op het eerste gezicht weerspiegelt het de moeilijkheid van communicatie: mensen kunnen de spraak van een ander niet begrijpen”, zegt Winifred Poster, professor sociologie aan de Washington University in St. SFGATE. “Maar echt, het is gecodeerd voor een heleboel andere kwesties over hoe accent racisme en etnocentrisme veroorzaakt.”
De niet-menselijk klinkende AI van Sanas helpt ook niet veel. Dat zegt Kiran Mirchandani van de Universiteit van Toronto, die onderzoek deed naar de behandeling van Indiase callcentermedewerkers SFGATE dat mensen die al geneigd zijn racistisch misbruik te melden aan callcentermedewerkers ook niet zullen worden bedankt door een robotstem aan de telefoon.
“Racisme bij klanten zal waarschijnlijk toenemen als werknemers verder worden ontmenselijkt wanneer een ‘app’ tussen de werknemer en de klant wordt geplaatst, vooral omdat er ongetwijfeld fouten van de kant van de app zullen zijn”, zei hij. SFGATE.
De president van Sanas, Sarim, benadrukte in zijn interview met SFGATE dat werknemers de mogelijkheid hebben om AI-accentvertaling te gebruiken of niet. Degenen die bekend zijn met de uitbuiting in de buitenlandse callcenterindustrie zijn echter van mening dat werknemers weinig keus zullen hebben als de technologie slaagt.
“Er is vrijwel niets in het werkproces van het callcenter waarbij de keuze van de werknemer wordt betrokken op het gebied van technologie”, aldus Poster. SFGATE. Werknemers zijn al onderworpen aan zeer ingrijpend toezicht, waardoor het bijna onmogelijk is om een authentiek gesprek te voeren met de mensen aan de andere kant van de lijn.”