Duur advocatenkantoor blundert met AI-verzinsels

Het prestigieuze advocatenkantoor Sullivan & Cromwell, waar advocaat-partners zich vaak meer dan 2.000 dollar per uur laten betalen, biedt excuses aan vanwege AI-hallucinaties.

Het kantoor had een document ingediend bij de rechtbank waar meerdere „hallucinaties” in stonden. Andrew Dietderich, hoofd van de afdeling binnen het Amerikaanse kantoor waar de fout zich voordeed, bood zaterdag excuses aan in een brief – ingezien door zakenkrant FT – aan het New Yorkse federale jurylid Martin Glenn.

Het ging bijvoorbeeld om het verkeerd citeren van Amerikaanse faillissementswetgeving, en het onjuist aanhalen van jurisprudentie in een gerechtelijk document dat op 9 april werd ingediend. Volgens Dietderich werden de interne protocollen op het gebied van AI – zoals om alles te verifiëren – niet nageleefd bij de fout. Of de advocaat/ advocaten die de fout hebben gemaakt nog bij het bedrijf werken, werd niet vermeld.

De fout werd gemaakt in een prominente zaak die draait om de vertegenwoordiging door S&C van curatoren die zijn aangesteld door de juridische autoriteiten op de Britse Maagdeneilanden. Zij ondernemen actie tegen Prince Group en eigenaar Chen Zhi. Zhi wordt ervan verdacht leiding te geven aan grootschalige internetzwendel vanuit complexen in Cambodja, waarmee miljarden dollars werden gestolen.

De fouten werden ontdekt door Boies Schiller Flexner, het advocatenkantoor dat Zhi vertegenwoordigt. Volgens het kantoor werden woorden aangehaald die niet voorkomen in de faillissementswet, en werden meerdere aangehaalde uitspraken verkeerd geciteerd, of hadden ze zelfs betrekking op een ander rechtsgebied.

Liveblog Economieblog

Consumentenvertrouwen daalde slechts één keer eerder zo hard