Michael Cohen utilizó casos falsos citados por AI para poner fin a la vigilancia judicial

Michael D. Cohen, ex organizador del ex presidente Donald J. Trump, le dio por error a su abogado citas legales falsas inventadas por el programa de inteligencia artificial Google Bard, dijo en documentos judiciales revelados el viernes.

El abogado utilizó las citas ficticias en una moción presentada ante el juez federal Jesse M. Furman. Cohen, quien se declaró culpable en 2018 de violaciones al financiamiento de campañas y cumplió condena en prisión, había pedido al juez que pusiera fin rápidamente a la supervisión judicial de su caso ahora que está fuera de prisión y respetó las condiciones de su liberación. .

La cadena de malentendidos y errores que siguió terminó cuando Cohen le pidió al juez que actuara con “discreción y misericordia”.

En una declaración jurada publicada el viernes, Cohen dijo que no siguió «las tendencias emergentes (y los riesgos asociados) en la tecnología legal y no se dio cuenta de que Google Bard era un texto generativo que, como ChatGPT, podía mostrar citas y descripciones que parecían reales pero no lo eran en realidad.

También dijo que no se dio cuenta de que el abogado que presentó la moción en su nombre, David M. Schwartz, «abandonaría los casos por completo sin siquiera confirmar su existencia».

El episodio podría tener implicaciones para un caso penal en Manhattan contra Trump en el que se espera que Cohen sea el testigo estrella. Los abogados del ex presidente han atacado durante mucho tiempo a Cohen como un fabulista en serie; ahora dicen que tienen un ejemplo completamente nuevo.

La desafortunada denuncia fue al menos la segunda este año presentada por abogados en el tribunal federal de Manhattan en la que los abogados citan fallos falsos generados por inteligencia artificial. La profesión jurídica, como otros, lucha por comprender las nuevas tecnologías destinadas a imitar el cerebro humano.

Los programas de inteligencia artificial como Bard y ChatGPT generan respuestas realistas al arriesgar conjeturas sobre qué fragmentos de texto deberían seguir otras secuencias. Estos programas se basan en miles de millones de ejemplos de texto ingeridos en Internet. Aunque pueden sintetizar grandes cantidades de información y presentarla de manera convincente, todavía quedan errores por solucionar.

Las tres citas en el caso de Cohen parecen ser alucinaciones creadas por el chatbot Bard, tomando fragmentos de casos reales y combinándolos con imaginación robótica. Luego, el Sr. Schwartz los incorporó a la moción que presentó al juez Furman.

Cohen, en su declaración, dijo que veía a Bard como “un motor de búsqueda sobrealimentado”, que había utilizado anteriormente para encontrar información específica en línea.

Schwartz, en su propia declaración, reconoció haber usado las citas y dijo que no revisó los casos de forma independiente porque Cohen indicó que otro abogado, E. Danya Perry, estaba haciendo sugerencias para la moción.

“Pido disculpas sinceramente al tribunal por no verificar personalmente estos casos antes de presentarlos ante el tribunal”, escribió Schwartz.

Barry Kamins, el abogado de Schwartz, declinó hacer comentarios el viernes.

Perry dijo que comenzó a representar a Cohen sólo después de que Schwartz presentó la moción. Ella le escribió al juez Furman el 8 de diciembre que después de leer el documento ya presentado, no podía verificar la jurisprudencia citada.

En una declaración en ese momento, dijo que «de conformidad con mi obligación ética de franqueza ante el tribunal, informé al juez Furman de este asunto».

En una carta hecha pública el viernes, dijo que Cohen, un ex abogado inhabilitado, «no sabía que los casos que identificó no eran reales y, a diferencia de su abogado, no tenía obligación de confirmarlo».

“Debe enfatizarse que el señor Cohen no cometió ningún delito”, escribió Perry. Ella dijo el viernes que el Sr. Cohen no hizo comentarios y había dado su consentimiento para que los documentos judiciales se publicaran después de que el juez planteara preguntas sobre si contenían información protegida por el secreto profesional entre abogado y cliente.

El embrollo salió a la luz cuando el juez Furman dijo en una orden del 12 de diciembre que no encontró ninguna de las tres decisiones. Ordenó al Sr. Schwartz que proporcionara copias o “una explicación detallada de cómo la moción llegó a citar casos que no existen y qué papel, si alguno, desempeñó el Sr. Cohen”.

El caso podría tener implicaciones significativas, dado el papel central de Cohen en un caso presentado por el fiscal de distrito de Manhattan, cuyo juicio está previsto para el 25 de marzo.

El fiscal de distrito, Alvin L. Bragg, acusó a Trump de orquestar un plan de dinero para ocultar su silencio centrado en un pago que Cohen hizo durante las elecciones de 2016 a una estrella de cine porno, Stormy Daniels. Trump se ha declarado inocente de 34 cargos penales.

Para refutar las afirmaciones de los abogados de Trump de que Cohen no es digno de confianza, sus defensores dijeron que Cohen había mentido en nombre de Trump, pero que desde entonces había dicho la verdad de que rompió con el expresidente en 2018 y se declaró culpable de cargos federales. cargos. .

El viernes, los abogados de Trump inmediatamente aprovecharon la revelación de Google Bard. Susan R. Necheles, abogada que representa a Trump en el próximo juicio de Manhattan, dijo que era “típico de Michael Cohen”.

«Es un perjuro condenado y se ha declarado culpable de varios delitos y esto es sólo una indicación más de su falta de carácter y su continua criminalidad», dijo la señora Necheles.

Perry, la abogada que ahora representa a Cohen en la moción, dijo que la voluntad de Cohen de devolver los documentos revelados demostraba que no tenía nada que ocultar.

“Confió en su abogado, como tenía todo el derecho a hacerlo”, dijo. «Desafortunadamente, su abogado parece haber cometido un error honesto al no verificar las citas contenidas en el escrito que preparó y presentó».

Una portavoz de Bragg se negó a hacer comentarios el viernes.

Los fiscales podrían argumentar que las acciones del Sr. Cohen no tenían como objetivo defraudar al tribunal, sino que, según él mismo admitió, fueron producto de una terrible mala comprensión de las nuevas tecnologías.

El problema de los abogados que dependen de chatbots salió a la luz a principios de este año después de que otro juez federal de Manhattan, P. Kevin Castel, multara a dos abogados con 5.000 dólares después de que admitieran haber presentado un escrito legal lleno de casos y citaciones inexistentes, todos generados por ChatGPT. .

Estos casos parecen estar resonando en los tribunales de todo el país, dijo Eugene Volokh, profesor de derecho de UCLA que ha escrito sobre inteligencia artificial y derecho.

El profesor Volokh dijo que ha identificado una docena de casos en los que abogados o litigantes autorepresentados supuestamente utilizaron chatbots para investigaciones jurídicas que dieron lugar a presentaciones judiciales. «Sospecho firmemente que esto es sólo la punta del iceberg», dijo.

Stephen Gillers, profesor de ética jurídica en la Facultad de Derecho de la Universidad de Nueva York, dijo: “La gente debería entender que la IA generativa no es el villano aquí. Es muy prometedor.

«Pero los abogados no pueden tratar a la IA como su co-consejera y limitarse a repetir lo que dice», añadió.

Los casos inexistentes citados en la petición del Sr. Schwartz (Estados Unidos contra Figueroa-Flores, Estados Unidos contra Ortiz y Estados Unidos contra Amato) estaban acompañados de los correspondientes resúmenes y notas que indicaban que habían sido confirmados por la apelación ante el Tribunal de Justicia. Estados Unidos por segunda vez. Circuito.

El juez Furman señaló en su orden del 12 de diciembre que la citación Figueroa-Flores en realidad hacía referencia a una página de una decisión de otro tribunal federal de apelaciones y «no tiene nada que ver con la libertad supervisada».

El caso Amato mencionado en la moción, dijo el juez, en realidad involucraba una decisión de la Junta de Apelaciones de Veteranos, un tribunal administrativo.

Y la cita del caso Ortiz, escribió el juez Furman, parece “no significar nada en absoluto”.

William K. Rashbaum informes aportados.

You may also like...