crazytotech
Vorige week DoNotPay(Opent in een nieuw venster) Dat heeft topman Joshua Browder bekendgemaakt de AI-chatbot van het bedrijf zou een beklaagde vertegenwoordigen in een Amerikaanse rechtbank(Opent in een nieuw venster), wat het eerste gebruik van kunstmatige intelligentie voor dit doel markeert. Het experiment is nu geannuleerd en Browder zei dat hij bezwaren had ontvangen van verschillende nationale balies.
“Slecht nieuws: na bedreigingen te hebben ontvangen van openbare aanklagers, lijkt het waarschijnlijk dat ik zes maanden gevangenisstraf krijg als ik doorga met het binnenhalen van een robotadvocaat in een fysieke rechtszaal.” Browder twitterde donderdag.(Opent in een nieuw venster) “DoNotPay stelt onze rechtszaak uit en staat achter consumentenrechten.”
Mogelijk is de tweet verwijderd
(opent in een nieuw tabblad)
(Opent in een nieuw venster)
Het plan was geweest om de AI van DoNotPay in één te gebruiken geval van te hoge snelheid(Opent in een nieuw venster) gepland op 22 februari. De chatbot zou werken met een smartphone, luisteren naar wat er in de rechtszaal werd gezegd voordat hij via een headset instructies gaf aan de anonieme beklaagde.
Veel openbare aanklagers reageerden echter niet goed op de voorgestelde stunt van DoNotPay en schreven naar Browder om hem te waarschuwen dat het mogelijk de wet zou overtreden. In het bijzonder kan Browder worden vervolgd voor ongeoorloofde praktijk van de wet, een misdaad die hem in sommige staten een half jaar achter de tralies zou kunnen zetten.
In het licht hiervan koos Browder ervoor om afstand te nemen van het hele experiment in plaats van gevangenisstraf te riskeren.
“Zelfs als het niet gebeurde, was de dreiging van strafrechtelijke vervolging voldoende om het op te geven”, vertelde Browder aan NPR.(Opent in een nieuw venster).
Het is waarschijnlijk het beste. De legale chatbot van DoNotPay is ontwikkeld met behulp van OpenAI’s ChatGPT die, hoewel zeker geavanceerd voor een AI-chatbot, nog steeds aanzienlijke gebreken vertoont. Er op vertrouwen voor iets belangrijks is in dit stadium niet het beste idee.
OpenAI’s ChatGPT-chatbot is geweldig, creatief en totaal verkeerd
Dit bijna-ongeluk met de verkeerde kant van de wet lijkt er ook toe te leiden dat DoNotPay hun producten opnieuw evalueert. Voorheen bood het bedrijf door de computer gegenereerde juridische documenten aan voor een breed scala aan kwesties, van kinderbijslagbetalingen tot nietigverklaring van huwelijken. Browder heeft nu aangekondigd dat DoNotPay in de toekomst alleen zaken zal behandelen die verband houden met de wetgeving inzake consumentenrechten, waarbij alle andere services “met onmiddellijke ingang” worden verwijderd.
“In tegenstelling tot het rechtszaaldrama, [consumer rights] zaken kunnen online worden afgehandeld, ze zijn eenvoudig en worden onvoldoende bediend.” Broeder twitterde(Opent in een nieuw venster). “Ik heb gemerkt dat legale producten die geen consumentenrechten hebben (bijvoorbeeld smaadbrieven, echtscheidingsregelingen, enz.), die weinig nut hebben, een afleiding zijn.”
De CEO zei ook dat er momenteel werknemers zijn dagelijkse werk van 18 uur(Opent in een nieuw venster) om de gebruikerservaring van DoNotPay te verbeteren, wat niet iets lijkt om over op te scheppen.
Hoewel het AI-experiment van DoNotPay kunstmatige intelligentie op een nieuw gebied zou hebben toegepast, zou het niet het eerste gebruik van kunstmatige intelligentie in een Amerikaanse rechtszaal zijn geweest.(Opent in een nieuw venster). Staten als New York en Californië gebruikten eerder de AI-tool voor Correctional Offender Management for Alternative Sanctions (COMPAS) om te beoordelen of iemand kans loopt te recidiveren en houden daar rekening mee bij het bepalen van de borgsom
Helaas is zelfs deze AI-software gebrekkig. Een studie uit 2016 door ProPublica(Opent in een nieuw venster) ontdekte dat COMPAS zwarte beklaagden eerder ten onrechte als een hoger risico beoordeelt, terwijl het ook ten onrechte witte beklaagden als een lager risico markeert.
Kunstmatige intelligentie lijkt misschien een opwindende technologie met veel nuttige doeleinden. Maar sommige dingen kunnen nog steeds beter aan echte mensen worden overgelaten.