ChatGPT gebruikte overzeese arbeidskrachten om zijn taalbibliotheek te modereren, blijkt uit onderzoek

Populaire en vreemd menselijke chatbot van OpenAI ChatGPT werd gebouwd op de ruggen van onderbetaalde en psychologisch uitgebuite werknemers, volgens nieuw onderzoek van TIJD.

Een data tagging-team gevestigd in Kenia, beheerd door het bedrijf uit San Francisco dezelfdeniet alleen verdiende hij naar verluidt schokkend lage lonen bij een bedrijf dat mogelijk op schema om een ​​investering van $ 10 miljard van Microsoft te ontvangenmaar werd ook onderworpen aan verontrustend expliciete seksuele inhoud om ChatGPT te ontdoen van gevaarlijk geweld en aanzetten tot haat.

Vanaf november 2021 stuurde OpenAI tienduizenden tekstvoorbeelden naar werknemers, die de taak hadden passages te doorzoeken op gevallen van seksueel misbruik van kinderen, bestialiteit, moord, zelfmoord, marteling, zelfbeschadiging en incest. TIJD gemeld Teamleden zeiden dat ze honderden van dergelijke inzendingen per dag moesten lezen; voor uurlonen variërend van $ 1 tot $ 2 per uur, of een maandsalaris van $ 170, beschouwden sommige werknemers hun baan als “mentaal littekens” en een vorm van “marteling”.

Sama-werknemers kregen wellness-sessies aangeboden met counselors, evenals individuele en groepstherapie, maar verschillende geïnterviewde medewerkers zeiden dat de realiteit van de geestelijke gezondheidszorg in het bedrijf teleurstellend en ontoegankelijk was. Het bedrijf antwoordde dat ze de mentale gezondheid van hun werknemers serieus nemen.

De TIJD Uit het onderzoek bleek ook dat dezelfde groep werknemers extra werk kreeg om een ​​immense, en in toenemende mate illegale, reeks grafische afbeeldingen samen te stellen en te taggen voor een niet bekendgemaakt OpenAI-project. Sama beëindigde zijn contract met OpenAI in februari 2022. In december zou ChatGPT het internet veroveren en chatrooms overnemen terwijl het de volgende golf van innovatieve AI aankondigde.

Ten tijde van de lancering viel ChatGPT op door het hebben van een verrassend uitgebreid vermijdingssysteem, wat een lange weg heeft afgelegd om te voorkomen dat gebruikers de AI misleiden om racistische, gewelddadige of andere ongepaste uitdrukkingen te zeggen. Het markeerde ook tekst die het als onverdraagzaam beschouwde in de chat zelf, waardoor het rood werd en de gebruiker een waarschuwing kreeg.

De ethische complexiteit van AI

Hoewel het nieuws over het verborgen personeelsbestand van OpenAI een raadsel is, is het niet geheel verrassend, aangezien de ethiek van op mensen gebaseerde inhoudsmoderatie geen nieuw debat is, vooral niet in sociale media-ruimtes die ze spelen met de grenzen tussen gratis publiceren en het beschermen van hun gebruikersbestand. In 2021 zal de Nieuws uit New York Meer te weten komen Facebook’s uitbesteding van postmoderatie aan een boekhoud- en taggingbedrijf dat bekend staat als Accenture. Beide bedrijven besteedden moderatie uit aan werknemerspopulaties over de hele wereld en zouden later te maken krijgen met een massaal verloop van een personeelsbestand dat psychologisch niet voorbereid was op de baan. Facebook betaalde in 2020 een schikking van $ 52 miljoen aan getraumatiseerde werknemers.

Contentmoderatie is zelfs het onderwerp geworden van psychologische horror en post-apocalyptische technologische media, zoals de thriller uit 2022 van de Nederlandse schrijfster Hanna Bervoets. We hebben dit bericht moeten verwijderen, die de mentale crisis en juridische onrust van een kwaliteitsborger van een bedrijf beschrijft. Voor deze personages en de echte mensen achter het stuk zijn de perversies van een toekomst gebaseerd op technologie en internet een blijvend trauma.

De snelle overname van ChatGPT en de daaropvolgende golf van AI-kunstgeneratoren roept verschillende vragen op bij een algemeen publiek dat steeds meer bereid is om hun gegevens over te dragen. sociale en romantische interacties, en zelfs van culturele creatie tot technologie. Kunnen we kunstmatige intelligentie vertrouwen om echte informatie en diensten te leveren? Wat zijn de academische implicaties van op tekst gebaseerde AI die in realtime op feedback kan reageren? Is het onethisch om het werk van kunstenaars te gebruiken om nieuwe kunst te bouwen in de computerwereld?

De antwoorden hierop zijn zowel voor de hand liggend als moreel complex. Chats zijn dat niet precieze kennisopslagplaatsen of originele ideeën, maar ze vormen een interessante socratische oefening. Ze breiden echter snel de mogelijkheden voor plagiaat uit veel academici zijn geïntrigeerd door hun potentieel als instrumenten voor creatieve aansporing. De exploitatie van kunstenaars en hun intellectueel eigendom is een groeiend probleem, maar kan het voorlopig worden omzeild, in naam van zogenaamde innovatie? Hoe kunnen makers veiligheid inbouwen in deze technologische vooruitgang zonder de gezondheid van echte mensen achter de schermen in gevaar te brengen?

Eén ding is duidelijk: de snelle opkomst van AI als de volgende technologische grens blijft nieuwe ethische dilemma’s oproepen bij het creëren en toepassen van tools die menselijke interactie nabootsen tegen echte menselijke kosten.

Als u seksueel bent misbruikt, belt u gratis en vertrouwelijk de National Sexual Assault Hotline op 1-800-656-HOPE (4673) of krijgt u 24/7 toegang tot online hulp door een bezoek te brengen aan online.rainn.org.