Errores de Copilot destruyeron la reputación de un periodista conocido

Microsoft Copilot atribuyó erróneamente crímenes a un periodista alemán que no había cometido. El periodista Martin Bernklau, quien trabajó durante mucho tiempo como reportero judicial, descubrió accidentalmente que la IA de Microsoft lo había vinculado con los crímenes que cubría en sus artículos.

En una entrevista reciente, Bernklau señaló que, con la ayuda de un abogado, exigió a Microsoft que dejara de difundir información falsa. A pesar de las promesas de la empresa de eliminar el contenido falso, tres días después los datos volvieron a estar disponibles. Según Bernklau, parece que su nombre ahora está bloqueado en Copilot, pero la situación cambia a diario.

Los errores de Copilot causaron en Bernklau fuertes emociones que describió como "una mezcla de shock, horror y risa incrédula". El periodista señaló que el bot lo vinculó con crímenes graves e incluso le atribuyó la autoría de una obra de teatro sobre el asesino en serie Fritz Haarmann, que el periodista mencionó en su blog.

Bernklau dudó durante mucho tiempo sobre si debía hablar de esto públicamente, temiendo la difusión de la difamación. Sin embargo, cuando todos los intentos legales de resolver el problema fracasaron, decidió sacar el tema a la luz pública por consejo de sus allegados. La fiscalía rechazó las denuncias de Bernklau en dos ocasiones, y las medidas adoptadas por las autoridades de protección de datos solo tuvieron un efecto temporal.

Bernklau subrayó que este caso no es solo un problema personal suyo. Es una señal de advertencia para todos los periodistas, abogados y otras personas cuyos nombres se mencionan en Internet. Como ejemplo, Bernklau mencionó el caso de un juez al que Copilot acusó erróneamente de un crimen por el que ese mismo juez había dictado sentencia.

Un portavoz de Microsoft informó a The Register que la empresa ya había investigado el incidente y tomado las medidas apropiadas. Microsoft subraya que los usuarios reciben una notificación sobre la interacción con la IA y pueden verificar los enlaces a los materiales para obtener más información. La empresa también insta a informar sobre problemas a través de un formulario de comentarios específico.

Martin Bernklau no es el único que ha enfrentado problemas similares. En abril, la organización austriaca Noyb presentó una denuncia contra OpenAI, acusándola de proporcionar información falsa. En Estados Unidos, el locutor de radio Mark Walters demandó a OpenAI por difamación, y el tribunal rechazó la moción de la empresa para desestimar el caso, lo que confirma la gravedad del problema.