Dro­hen­des Dis­zi­pli­nar­ver­fah­ren nach der Nut­zung des KI-Tools ChatGPT zur juris­ti­schen Recher­che

Zwei New-Yor­ker Anwäl­ten – Peter Lodu­ca und Ste­ven Schwartz – der Kanz­lei Levi­dow, Levi­dow & Ober­man, droht aktu­ell die Ein­lei­tung eines Dis­zi­pli­nar­ver­fah­rens wegen der Ein­set­zung des KI-Tools ChatGPT. Was war pas­siert?

ChatGPT als KI-Tool

ChatGPT ist ein Modell künst­li­cher Intel­li­genz des Unter­neh­mens Open AI, wel­ches auf sog. Prompts (Anfra­gen) Tex­te erstellt. Das Unter­neh­men weißt dabei dar­auf hin, dass die erstel­len Tex­te „unge­naue Infor­ma­tio­nen“ beinhal­ten kön­nen. Erfah­rungs­ge­mäß kommt es dabei regel­mä­ßig dazu, dass ChatGPT (juris­tisch) fal­sche Inhal­te und / oder Quel­len auf­führt und sol­che schlicht erfin­det.

Die­se Gefahr wur­de durch die Kol­le­gen Lodu­ca und Schwartz offen­bar igno­riert, indem das sie bei Gericht einen Schrift­satz ein­reich­ten, wel­cher Ver­wei­se und Zita­te auf zahl­rei­che ver­gan­ge­ne Gerichts­ent­schei­dun­gen ent­hielt. Damit woll­te das Anwalts­team die Erfolgs­aus­sich­ten des eige­nen Man­dan­ten unter­mau­ern. Den Anwäl­ten der geg­ne­ri­schen Flug­ge­sell­schaft fiel auf, dass zahl­rei­che der ange­führ­ten ver­meint­li­chen Prä­ze­denz­fäl­le über­haupt nicht auf­find­bar waren und wies im lau­fen­den Gerichts­ver­fah­ren dar­auf hin.

Laut dem zustän­di­gen Rich­ter ein „noch nie dage­we­se­ner Umstand“

Der im Ver­fah­ren zustän­di­ge Rich­ter Cas­tel stell­te dar­auf­hin fest, dass ins­ge­samt 6 zitier­te Fäl­le voll­kom­men erfun­den waren. Dabei hat­te das KI-Tool nicht nur die Gerichts­ent­schei­dun­gen an sich frei erfun­den, son­dern auch dazu­ge­hö­ri­ge Inhal­te, Zita­te und inter­ne Ver­wei­se. Rich­ter Cas­tel bezeich­ne­te die­sen Vor­fall als „noch nie dage­we­se­nen Umstand“, da nach sei­ner Kennt­nis in einem Schrift­satz noch nie auf juris­ti­sche Bei­spiel­fäl­le ver­wie­sen wur­de, die sich als nicht exis­tent her­aus­stell­ten.

Kol­le­ge Lodu­ca wies dar­auf hin, dass allein sein Kol­le­ge Schwartz mit der Recher­che beauf­tragt wor­den war. Letz­te­rer gab an, ChatGPT tat­säch­lich zur Recher­che ähn­li­cher Fäl­le genutzt zu haben und bestä­tig­te, dass Kol­le­ge Lodu­ca von sei­ner Nut­zung des KI-Tools im kon­kre­ten Fall nichts gewusst habe. Zu sei­ner Ver­tei­di­gung gab Kol­le­ge Schwartz an nicht gewusst zu haben, das ChatGPT auch feh­ler­haf­te Ergeb­nis­se lie­fern kön­ne und ver­si­cher­te, zukünf­tig kei­ne KI mehr zur juris­ti­schen Recher­che zu ver­wen­den, ohne vor Ein­rei­chung deren Authen­ti­zi­tät geprüft zu haben.

Bei­de Anwäl­te erhal­ten Gele­gen­heit sich bei einer Anhö­rung am kom­men­den 8. Juni zu ihrem Vor­ge­hen zu äußern und zu erläu­tern, war­um sie kei­ne dis­zi­pli­na­ri­schen Maß­nah­men ver­die­nen.

Wir gehen davon aus, dass die­ser Fall in der juris­ti­schen Gemein­schaft eine Debat­te über den mög­li­chen Ein­satz von KI-Tools in der juris­ti­schen Recher­che und Fall­be­ar­bei­tung aus­lö­sen wird. Dabei wird es auch und die Fra­ge der Not­wen­dig­keit umfas­sen­der Richt­li­ni­en zur Ver­mei­dung von Prä­ze­denz­fäl­len gehen müs­sen.

Soll­ten Sie im Hin­blick auf die vor­ste­hen­den Aus­füh­run­gen Fra­gen haben oder in Erfah­rung brin­gen wol­len, wie Sie KI-Tools wie ChatGPT im Hin­blick auf das Urhe­ber- und Daten­schutz­recht ein­set­zen kön­nen, mel­den Sie sich ger­ne bei unse­rer Mit­ar­bei­te­rin Frau Bur per E‑Mail unter bur@dhk-law.com oder unter der Tele­fon­num­mer 0241 – 946 21 128.