ChatGPT inventó el testimonio de un testigo en una apelación por asesinato en Nuevo México

Un abogado de Nuevo México que se defendía de una condena por asesinato utilizó ChatGPT. Posteriormente, presentó un escrito ante la Corte Suprema de Nuevo México que contenía declaraciones policiales y testimonios de testigos inventados.

El Tribunal Supremo de Nuevo México determinó que el abogado Stephen Aarons no verificó el material generado por inteligencia artificial. Los jueces afirmaron que el documento “contenía testimonios falsos de testigos totalmente inventados”

El miércoles, el tribunal declaró a Stephen en desacato y le ordenó pagar 5000 dólares. Su conducta también será examinada por un comité disciplinario de abogados. Los jueces afirmaron que Stephen había demostrado falta de remordimiento y de preocupación por su cliente

Stephen dijo que usó ChatGPT el año pasado para resumir el expediente del juicio después de presentar la apelación. Comentó que no se había dado cuenta de hasta dónde podían llegardentcon la que el software podía producir hechos que nunca ocurrieron. las "alucinaciones" de la IA ni de la

Jueces de Nuevo México castigan a Stephen después de que ChatGPT inventara testimonios en la apelación por asesinato de Oscar

Stephen, abogado privado con sede en Santa Fe, representó a Oscar Renee Sandoval. Oscar se declaró inocente del asesinato de la madre de sus hijos. Posteriormente fue declarado culpable y condenado a cadena perpetua el año pasado. Su apelación aún está pendiente.

Según se informa, Stephen declaró a los periodistas que el error fue involuntario. «Lo lamento, pero espero que el comité disciplinario tenga en cuenta que fue un error honesto», dijo. «Es una lección aprendida para todos los profesionales que dependen de esta tecnología potente, pero a veces inestable».

Varios abogados ya han sido sancionados por el uso indebido de la inteligencia artificial. Se han presentado demandas contra abogados tanto en tribunales estatales como federales debido a escritos que incluyen casos falsos, referencias erróneas y citas inapropiadas de disposiciones legales.

La solicitud de Stephen destaca en esta categoría, ya que incluye testimonios falsos de testigos en un proceso de apelación.

El caso de Oscar pasó a manos de Kim Chavez Cook, defensora pública de Nuevo México, el 2 de septiembre. Kim se está encargando ahora de la apelación mientras el caso permanece abierto.

La familia de Tiru demanda a OpenAI mientras las autoridades de Florida examinan 16.000 chats de ChatGPT relacionados con el tiroteo en la FSU

La otra batalla legal involucra a ChatGPT tras el tiroteo en la Universidad Estatal de Florida. Tiru Chabba, abogado que representa a la familia del fallecido, ha demandado a OpenAI, ChatGPT y Phoenix Ikner ante un tribunal federal.

La demanda fue presentada el domingo ante el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de Florida. Se alega que OpenAI debería haber tomado medidas en esta situación.

Las autoridades policiales de Florida han publicado las transcripciones del chat GPT de Phoenix. Estas incluyen consultas sobre cómo usar un arma, cobertura mediática, la hora de mayor actividad en FSU, la masacre de Columbine y cómo hacerse famoso.

El abogado de la familia de Tiru, Bakari Sellers, dijo que los intercambios se remontan a unos 18 meses atrás y suman un total de alrededor de 16.000 "conversaciones inquietantes"

“Esta es la misma persona que preguntó, ya sabes, ¿cómo puede hacerse famoso? Preguntó sobre el tiroteo de Columbine. Preguntó a qué hora debería ir al campus. ¿A qué hora estará allí la mayoría de la gente?”, dijo Bakari.

«Literalmente utilizó OpenAI y Chat GPT como cómplices, los usó como recurso para perpetrar asesinatos en masa», añadió Bakari. «No había nada que lo impidiera y, por lo tanto, se perdieron vidas. Ese es el peligro inherente: tiene que haber algún mecanismo para evitar que esto ocurra»

OpenAI rechazó cualquier responsabilidad por el tiroteo. El portavoz Drew Pusateri declaró que, tras enterarse de lo sucedido, la compañía encontró una cuenta que se cree está asociada con Phoenix y compartió la información con la policía de forma proactiva. Pusateri añadió que OpenAI sigue cooperando con las autoridades.

“El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”, dijo Drew.

Según explicó, ChatGPT respondía con información veraz que ya estaba ampliamente disponible en internet y no promovía comportamientos ilegales ni perjudiciales. Drew también mencionó que cientos de millones de personas utilizan ChatGPT a diario por motivos legítimos.

Según Drew, OpenAI mejora constantemente sus herramientas, que ayudan a reconocer las intenciones de los usuarios, prevenir el uso indebido y actuar en caso de que surjan problemas de seguridad.

La demanda actual se presentó tras un caso similar en Florida. El fiscal general James Uthmeier reveló recientemente que la investigación penal contra OpenAI y ChatGPT fue iniciada por la Fiscalía Estatal.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.