Lögmaður notaði ChatGPT: Bjó til fölsk dómafordæmi

Dómstóll Manhattan-eyju og ChatGPT.
Dómstóll Manhattan-eyju og ChatGPT. Samsett mynd

Steven Schwartz, bandarískur lögmaður, bað dómara afsökunar á þriðjudaginn eftir að hafa notað gervigreindarforritið ChatGPT til að undirbúa greinargerð fyrir dómsmál fyrir dómstólnum á Manhattan-eyju í New York-borg í Bandaríkjunum.

Gervigreindarforritið ChatGPT, sem er þróað af fyrirtækinu OpenAI, er máltækniforrit sem getur skrifað texta á ógnarhraða út frá þeim upplýsingum sem forritið býr yfir.

Sá hængur er þó á forritinu að það gerir ekki greinarmun á staðreyndum og tilbúningi. Á forritið því til að fylla í eyðurnar þegar það skortir einhverjar upplýsingar.

Dómsmálin reyndust uppspuni

Sú varð raunin í greinargerðinni sem forritið útbjó fyrir Schwartz en þar voru ýmis dómsmál  útlistuð sem fordæmi sem reyndust ekki vera til í raun og veru.

Schwartz sagðist skammast sín og bað dómarann afsökunar á því að hafa lagt fram fölsuð dómafordæmi fyrir dómstólinn.

„Ég hafði ekki hugmynd um að ChatGPT gæti búið til heilu dómsmálin, aðstæður og álit dómara. Sérstaklega bjóst ég ekki við því að forritið gæti gert það nægilega vel þannig að dómarnir sýndust ekta,“ skrifaði Schwartz í skjali til dómara.

Dómsmálið á rætur sínar að rekja til þess að maður stefndi kólumbíska flugfélaginu Avianca eftir að hafa slasast í flugferð árið 2019 frá El Salvador til New York. Lögmaður flugfélagsins gerði kröfu um að dómurinn vísaði málinu frá en þá útbjó Schwartz greinargerð með hjálp forritsins sem vísaði til fjölda mála sem færðu rök fyrir því að dómstóllinn ætti að taka málið til efnismeðferðar.

mbl.is
Fleira áhugavert
Fleira áhugavert