AI-tekstdetectietool van de makers van ChatGPT – zo gebruikt u het

OpenAI, de makers van ChatGPT, hebben duidelijk de kritiek op hun AI-chatbot gehoord. Dat wil zeggen, degenen van de docenten die hun bezorgdheid hebben geuit over studenten die ChatGPT gebruiken om hun huiswerk te maken of hun papers te schrijven.

Dinsdag, OpenAI vrijgelaten(Opent in een nieuw venster) een nieuwe AI-classificatietool om deze zorgen rechtstreeks aan te pakken. De gratis webtool is gemaakt door OpenAI om gebruikers te helpen bepalen of een tekstblok door een mens of een computer is geschreven.

Het hulpmiddel is eenvoudig te gebruiken. Ga dan naar de AI Classifier(Opent in een nieuw venster), log in en kopieer en plak het tekstblok dat u wilt controleren. De classificator rangschikt de tekst vervolgens op een schaal van waarschijnlijk door AI gegenereerd, mogelijk, onduidelijk, onwaarschijnlijk of zeer onwaarschijnlijk.

AI-tekstclassificatie van OpenAI

Kopieer en plak tekst en ontdek of het door een mens is geschreven.
Credits: OpenAI / Screengrab

Hoewel dit ongelooflijk nuttig lijkt om enkele zorgen over door AI geschreven tekst weg te nemen, maakt OpenAI heel duidelijk dat er kanttekeningen zijn. Volgens OpenAI is bijvoorbeeld “de classifier niet helemaal betrouwbaar”.

“In onze evaluaties van een ‘challenge set’ van Engelse teksten, identificeert onze classifier 26% van de door AI geschreven tekst (true positives) correct als ‘waarschijnlijk door AI geschreven’, terwijl tekst geschreven door mensen onjuist wordt gelabeld als 9% geschreven door AI . van de tijd (false positives), “zei het bedrijf in een blogbericht(Opent in een nieuw venster).

ZIE OOK:

3 dingen die u moet weten voordat u met ChatGPT praat over uw geestelijke gezondheid

Er zijn andere beperkingen met betrekking tot de classificatie die door OpenAI in zijn aankondiging wordt behandeld. De classifier presteert bijvoorbeeld veel slechter op tekst van minder dan 1000 woorden. Het kan soms ten onrechte door mensen geschreven inhoud identificeren als door de computer gegenereerde tekst. En het werkt alleen goed met Engelse tekst.

OpenAI is niet de eerste die een tool uitbrengt om te helpen detecteren wanneer tekst door de computer is gegenereerd. In feite is het niet de eerste rankingtool die het bedrijf zelf heeft uitgebracht. Volgens OpenAI is het echter “aanzienlijk betrouwbaarder” dan zijn vorige tool. En het is heel opmerkelijk dat een van de koplopers in de AI-ruimte ook continu aan deze tool werkt.

Toch is er nog een lange weg te gaan voordat leraren en opvoeders vol vertrouwen kunnen vertrouwen op een AI-detectietool om valsspelen in de klas te voorkomen.



Source link

Leave a Reply

Your email address will not be published. Required fields are marked *