Δύο απολογούμενοι δικηγόροι που απάντησαν σε θυμωμένο δικαστή στο ομοσπονδιακό δικαστήριο του Μανχάταν κατηγόρησαν την Πέμπτη την ChatGPT ότι τους εξαπάτησε ώστε να συμπεριλάβουν πλασματική νομική έρευνα σε μια δικαστική κατάθεση.
Οι δικηγόροι Steven A. Schwartz και Peter LoDuca αντιμετωπίζουν πιθανή τιμωρία για μια κατάθεση αγωγής κατά αεροπορικής εταιρείας που περιελάμβανε αναφορές σε προηγούμενες δικαστικές υποθέσεις που ο Schwartz πίστευε ότι ήταν πραγματικές, αλλά στην πραγματικότητα επινοήθηκαν από το chatbot που τροφοδοτείται με τεχνητή νοημοσύνη.
Ο Schwartz εξήγησε ότι χρησιμοποίησε το πρωτοποριακό πρόγραμμα καθώς αναζητούσε νομικά προηγούμενα που υποστηρίζουν την υπόθεση ενός πελάτη κατά της κολομβιανής αεροπορικής εταιρείας Avianca για τραυματισμό που προκλήθηκε σε πτήση του 2019.
Το chatbot, το οποίο έχει συναρπάσει τον κόσμο με την παραγωγή δοκιμιακών απαντήσεων σε προτροπές από χρήστες, πρότεινε αρκετές περιπτώσεις που αφορούσαν αεροπορικά ατυχήματα που ο Schwartz δεν είχε καταφέρει να βρει μέσω των συνηθισμένων μεθόδων που χρησιμοποιούνται στο δικηγορικό του γραφείο.
Το πρόβλημα ήταν ότι αρκετές από αυτές τις περιπτώσεις δεν ήταν πραγματικές ή αφορούσαν αεροπορικές εταιρείες που δεν υπήρχαν.
Ο Schwartz είπε στον περιφερειακό δικαστή των ΗΠΑ P. Kevin Castel ότι «λειτουργούσε κάτω από μια εσφαλμένη αντίληψη … ότι αυτός ο ιστότοπος λάμβανε αυτές τις υποθέσεις από κάποια πηγή στην οποία δεν είχα πρόσβαση».
Είπε ότι «απέτυχε παταγωδώς» να κάνει περαιτέρω έρευνα για να διασφαλίσει ότι οι αναφορές ήταν σωστές.
«Δεν κατάλαβα ότι το ChatGPT θα μπορούσε να κατασκευάσει υποθέσεις», είπε ο Schwartz.
Η Microsoft έχει επενδύσει περίπου 1 δισεκατομμύριο δολάρια στην OpenAI, την εταιρεία πίσω από το ChatGPT.
Η επιτυχία του, που δείχνει πώς η τεχνητή νοημοσύνη θα μπορούσε να αλλάξει τον τρόπο με τον οποίο οι άνθρωποι εργάζονται και μαθαίνουν, έχει δημιουργήσει φόβους σε ορισμένους. Εκατοντάδες ηγέτες του κλάδου υπέγραψαν μια επιστολή τον Μάιο που προειδοποιεί «ο μετριασμός του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη πρέπει να αποτελεί παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος».
Ο δικαστής Castel φαινόταν αμήχανος και ταραγμένος με το ασυνήθιστο περιστατικό και απογοητευμένος που οι δικηγόροι δεν ενήργησαν γρήγορα για να διορθώσουν τις ψευδείς νομικές αναφορές όταν ειδοποιήθηκαν για πρώτη φορά για το πρόβλημα από τους δικηγόρους της Avianca και το δικαστήριο. Η Avianca επεσήμανε την ψευδή νομολογία σε μια κατάθεση του Μαρτίου.
Ο δικαστής αντιμετώπισε τον Schwartz με μια νομική υπόθεση που εφευρέθηκε από το πρόγραμμα υπολογιστή. Αρχικά περιγράφηκε ως μια υπόθεση άδικου θανάτου που ασκήθηκε από μια γυναίκα εναντίον μιας αεροπορικής εταιρείας μόνο για να μετατραπεί σε νομική αξίωση για έναν άνδρα που έχασε μια πτήση για τη Νέα Υόρκη και αναγκάστηκε να υποβληθεί σε πρόσθετα έξοδα.
«Μπορούμε να συμφωνήσουμε ότι είναι νομική ασυναρτησία;» ρώτησε ο Καστέλ.
Ο Schwartz είπε ότι σκέφτηκε λανθασμένα ότι η μπερδεμένη παρουσίαση προέκυψε από αποσπάσματα που αντλήθηκαν από διαφορετικά σημεία της υπόθεσης.
Όταν ο Καστέλ τελείωσε την ερώτησή του, ρώτησε τον Σβαρτς αν είχε κάτι άλλο να πει.
«Θα ήθελα να ζητήσω ειλικρινά συγγνώμη», είπε ο Schwartz.
Πρόσθεσε ότι υπέφερε προσωπικά και επαγγελματικά ως αποτέλεσμα της γκάφας και ένιωθε «ντροπιασμένος, ταπεινωμένος και εξαιρετικά μετανιωμένος».
Είπε ότι ο ίδιος και η εταιρεία όπου εργαζόταν – Levidow, Levidow & Oberman – είχαν θέσει σε εφαρμογή διασφαλίσεις για να διασφαλίσουν ότι δεν θα συμβεί ξανά τίποτα παρόμοιο.
Ο LoDuca, ένας άλλος δικηγόρος που εργάστηκε στην υπόθεση, είπε ότι εμπιστεύεται τον Schwartz και δεν εξέτασε επαρκώς όσα είχε συγκεντρώσει.
Αφού ο δικαστής διάβασε φωναχτά τμήματα μιας αναφερόμενης υπόθεσης για να δείξει πόσο εύκολα διαπίστωνε ότι ήταν «ασυναρτησίες», η Λοντούκα είπε: «Δεν κατάλαβα ποτέ ότι επρόκειτο για ψεύτικη υπόθεση».
Είπε ότι το αποτέλεσμα «με πονάει χωρίς τέλος».
Ο Ρόναλντ Μίνκοφ, δικηγόρος του δικηγορικού γραφείου, είπε στον δικαστή ότι η υποβολή «προέκυψε από απροσεξία, όχι κακή πίστη» και δεν πρέπει να οδηγήσει σε κυρώσεις.
Είπε ότι οι δικηγόροι είχαν ιστορικά μια δυσκολία με την τεχνολογία, ιδιαίτερα τη νέα τεχνολογία, «και δεν γίνεται ευκολότερο».
“Κύριος. Ο Schwartz, κάποιος που μετά βίας κάνει ομοσπονδιακή έρευνα, επέλεξε να χρησιμοποιήσει αυτή τη νέα τεχνολογία. Νόμιζε ότι είχε να κάνει με μια τυπική μηχανή αναζήτησης», είπε ο Minkoff. «Αυτό που έκανε ήταν να έπαιζε με ζωντανά πυρομαχικά».
Ο Daniel Shin, επίκουρος καθηγητής και βοηθός διευθυντής έρευνας στο Κέντρο Νομικής και Δικαστικής Τεχνολογίας στη Νομική Σχολή William & Mary, είπε ότι παρουσίασε την υπόθεση Avianca κατά τη διάρκεια ενός συνεδρίου την περασμένη εβδομάδα που προσέλκυσε δεκάδες συμμετέχοντες προσωπικά και διαδικτυακά από πολιτειακές και ομοσπονδιακές δικαστήρια στις ΗΠΑ, συμπεριλαμβανομένου του ομοσπονδιακού δικαστηρίου του Μανχάταν.
Είπε ότι το θέμα προκάλεσε σοκ και σύγχυση στο συνέδριο.
«Μιλάμε για τη Νότια Περιφέρεια της Νέας Υόρκης, την ομοσπονδιακή περιφέρεια που χειρίζεται μεγάλες υποθέσεις, την 11η Σεπτεμβρίου για όλα τα μεγάλα οικονομικά εγκλήματα», είπε ο Σιν. «Αυτή ήταν η πρώτη τεκμηριωμένη περίπτωση πιθανού επαγγελματικού παραπτώματος από δικηγόρο που χρησιμοποιεί γενεσιουργό AI».
Είπε ότι η υπόθεση έδειξε πώς οι δικηγόροι μπορεί να μην είχαν καταλάβει πώς λειτουργεί το ChatGPT επειδή τείνει να έχει παραισθήσεις, μιλώντας για φανταστικά πράγματα με τρόπο που ακούγεται ρεαλιστικό αλλά δεν είναι.
«Υπογραμμίζει τους κινδύνους από τη χρήση πολλά υποσχόμενων τεχνολογιών τεχνητής νοημοσύνης χωρίς να γνωρίζουμε τους κινδύνους», είπε ο Shin.
Ο δικαστής είπε ότι θα αποφανθεί για κυρώσεις σε μεταγενέστερη ημερομηνία.