«No fui yo, fue Jim»: el tribunal no aceptó la suplantación digital del demandante

Un caso inusual ocurrió en un tribunal del estado de Nueva York: Jer Dewald intentó presentar sus argumentos no en persona, sino a través de un doble digital creado con ayuda de una red neuronal. La jueza consideró esta iniciativa inaceptable y reprendió al demandante por falta de transparencia.

El conflicto se produjo durante una audiencia del tribunal de apelaciones, en el marco de una disputa entre Dewald y la aseguradora MassMutual Metro New York sobre un caso relacionado con relaciones laborales. El demandante había recibido previamente permiso para presentar su alegato en formato de video, alegando limitaciones de salud debido a un cáncer de laringe que tuvo en el pasado. Sin embargo, en lugar de una grabación con su propio rostro, reprodujo un fragmento en el que un avatar de IA llamado Jim se dirigía al tribunal.

Los jueces no estaban preparados para tal giro. Desde el comienzo del video, uno de los miembros del tribunal interrumpió la transmisión, sorprendida por quién se dirigía a la corte. Cuando Dewald explicó que no era una persona real, sino una imagen digital creada artificialmente, la jueza respondió con firmeza que no había sido advertida de ese método de presentación y que no se le permitía utilizar la sala del tribunal para promover un negocio.

Momento de la transmisión de la audiencia cuando apareció el avatar de IA (Appellate Division, First Department)

Más tarde, Dewald explicó que su intención era utilizar un avatar realista, lo más parecido posible a sí mismo, pero la tecnología le falló. El servicio que usaba no pudo generar la imagen a tiempo, y Dewald se vio obligado a utilizar uno de los avatares predeterminados de la plataforma: Jim. Según el demandante, sus intentos de crear un doble personalizado fallaron dos veces: una vez tras seis horas y otra tras ocho.

Dewald asegura que el tribunal contaba con toda la información necesaria sobre su intención de presentar los argumentos en formato de video, pero no especificó que el personaje mostrado no sería él mismo, sino uno generado por IA. La jueza recordó que el demandante ya había comparecido oralmente en el pasado sin mostrar dificultades para hablar, por lo que cuestionó la veracidad de su justificación.

Dewald subraya que al redactar el texto de su intervención utilizó una IA generativa, pero luego revisó cuidadosamente todas las formulaciones. Añadió que lleva más de un año informando abiertamente a tribunales y oponentes sobre su uso de inteligencia artificial, tal como se recomendó en una discusión en la que participaron jueces de Nueva York.

En la comunidad jurídica persiste la cautela respecto a la IA. Uno de los recientes seminarios web de la Asociación Estadounidense de Abogados estuvo dedicado al uso de IA en procesos judiciales. Allí se debatieron tanto sus ventajas como sus riesgos, incluidas posibles equivocaciones, violaciones de confidencialidad y abusos.

A pesar de las críticas de la jueza y la incomodidad de la situación, Dewald sigue creyendo que la tecnología puede ser útil, especialmente para quienes no pueden pagar asistencia legal. Ya ha presentado disculpas por escrito por no informar al tribunal sobre la naturaleza del video y el uso del avatar digital.