Todavía no se conocen como serían los sistemas empleados. Este compromiso surge como resultado de una reunión en la Casa Blanca.

OpenAI, Google, Microsoft, Meta y Amazon, entre otras empresas, se han comprometido a desarrollar una tecnología para aplicar marcas de agua en el contenido generado por sus modelos de inteligencia artificial. La idea es que de esta manera será mucho más sencillo detectar los textos, audios, videos e imágenes que hayan sido creados con dichas herramientas. Como consecuencia se aliviaría un poco el problema de las falsificaciones y la desinformación.

Sobre los métodos que se emplearán para tal fin todavía no sabemos mucho. Los deepfakes existen desde hace ya un buen tiempo y solo los defectos en su producción ayudan a distinguirlos.

Una medida diplomática

El compromiso de las empresas es en gran medida una cuestión diplomática. El resultado de una reunión que los empresarios mantuvieron con las autoridades de la Casa Blanca.

Ante la preocupación por algunos de los efectos negativos que podría tener la tecnología; el acuerdo sirve tanto para dejar tranquila a la administración, como para tener algo que contarle al público. Tanto OpenAI, como Meta y Microsoft han destacado la importancia del encuentro. Un paso clave para que la industria se asegure de que las IA tengan los mecanismos de seguridad adecuados.

El problema de las marcas

El problema de las marcas de agua es que deberían aplicarse a diferentes productos, sin arruinar los resultados pero al mismo tiempo sin ser perfectamente eliminables.

Una marca de agua en una esquina de una imagen puede recortarse. Si aparece en el centro no, pero puede ser poco conveniente para una producción audiovisual de ficción. Una posibilidad es hacer que las marcas de agua sean fácilmente localizables con herramientas de análisis. Sin embargo, el inconveniente es que el material falso puede producir su efecto mucho antes de que a alguien se le ocurra examinarlo.

Por su parte, Google señaló que planea agregar matadatos integrados y otras técnicas para asegurar la confiabilidad de la información.