Une poursuite intentée par un passager de Frontier Airlines alléguant une discrimination raciale a été rejetée après qu’il a été révélé que le plaignant avait soumis des citations juridiques fabriquées générées par ChatGPT. Kusmin Amarsingh, une avocate qui la représente elle-même, a affirmé qu’on lui avait refusé l’embarquement sur un vol de correspondance entre Philadelphie et Saint-Louis en raison de son origine indienne.
Le litige et les réclamations initiales
Le 13 juin 2023, Amarsingh faisait partie de plusieurs passagers sans siège attribué sur un vol en surréservation. Selon des documents judiciaires, les agents d’embarquement ont offert des bons allant jusqu’à 800 dollars pour encourager les volontaires à prendre un vol plus tard, mais personne n’a accepté. Les passagers laissés sans siège comprenaient plusieurs groupes raciaux : des familles afro-américaines, des hispaniques et d’autres passagers d’origine asiatique et indienne.
Amarsingh allègue que pendant que d’autres passagers étaient hébergés, elle est restée en attente et pense que c’était à cause de sa race. La compagnie aérienne a proposé un remboursement ou une nouvelle réservation, mais aucune compensation financière. Elle a demandé 15 millions de dollars de dommages et intérêts, invoquant la perte de 1 000 dollars de dépenses, une réunion de famille manquée et la prétendue détresse émotionnelle causée par la discrimination raciale.
Décision du tribunal et participation de ChatGPT
La Cour d’appel du 10e circuit a finalement rejeté le cas d’Amarsingh, affirmant qu’elle n’avait pas réussi à démontrer qu’elle aurait été interpellée sans discrimination. Le tribunal a souligné qu’elle n’avait pas de siège assigné, qu’elle faisait partie des derniers passagers pris en compte et que les agents d’embarquement avaient embarqué des personnes de races différentes.
L’affaire a pris une nouvelle tournure lorsqu’il a été découvert que le mémoire d’appel d’Amarsingh contenait sept citations juridiques entièrement fabriquées. Elle a imputé les erreurs à ChatGPT, affirmant que l’IA avait généré de fausses références.
Mesures disciplinaires et conséquences
En conséquence, Amarsingh a été condamnée à payer à Frontier 1 000 $ de frais juridiques et renvoyée au procureur de son État pour d’éventuelles mesures disciplinaires. Malgré cela, elle a fait appel du licenciement cette semaine, arguant que le tribunal avait mal compris son affirmation selon laquelle les agents aux portes se moquaient de son accent indien.
L’incident met en évidence les risques liés au recours au contenu généré par l’IA dans les procédures judiciaires et souligne l’importance de vérifier toutes les citations.
Cette affaire constitue un avertissement sévère contre l’utilisation non critique de l’intelligence artificielle dans des contextes juridiques. La décision du tribunal et les mesures disciplinaires qui ont suivi envoient un message clair : les professionnels du droit sont responsables de l’exactitude de leurs observations, même lorsqu’ils utilisent des outils d’IA.
