.
ESTADOS UNIDOS

OpenAI, Google y otras acuerdan poner marcas de agua en todos sus productos de IA

sábado, 22 de julio de 2023

OpenAI, Google y otras empresas deberán informar los riesgos de ciberseguridad de IA

Foto: OpenAI, Google y otras empresas deberán informar los riesgos de ciberseguridad de IA

Las empresas se comprometieron a probar los sistemas antes de lanzarlos al mercado y a compartir los riesgos de ciberseguridad

Reuters

Las principales empresas de inteligencia artificial (IA), entre ellas OpenAI, Alphabet GOOGL.O y Meta Platforms META.O, se comprometieron voluntariamente con la Casa Blanca a aplicar medidas como una marca de agua en los contenidos para contribuir a que la tecnología sea más segura, informó el Gobierno de Estados Unidos.

"Estos compromisos son un paso prometedor, pero tenemos mucho más que hacer juntos", dijo el presidente Joe Biden.

En un acto en la Casa Blanca, Biden abordó la creciente preocupación por la posibilidad de que la inteligencia artificial se use con fines perturbadores, afirmando que "debemos tener los ojos bien abiertos y estar atentos a las amenazas de las tecnologías emergentes" para la democracia estadounidense.

Las empresas -entre las que también se encuentran Anthropic, Inflection, Amazon.com AMZN.O y Microsoft MSFT.O, socio de OpenAI- se comprometieron a probar exhaustivamente los sistemas antes de lanzarlos al mercado y a compartir información sobre cómo reducir los riesgos e invertir en ciberseguridad.

El anuncio se considera una victoria para los esfuerzos del Gobierno de Biden por regular esta tecnología, que ha experimentado un auge de inversión y popularidad entre los consumidores.

"Acogemos con satisfacción el liderazgo del presidente a la hora de reunir a la industria tecnológica para definir medidas concretas que ayuden a que la IA sea más segura y beneficiosa para el público", señaló Microsoft en un blog el viernes.

Desde que la IA generativa, como ChatGPT, que utiliza datos para crear nuevos contenidos como prosa que parece humana, se hizo tremendamente popular este año, por lo que legisladores de todo el mundo han empezado a plantearse cómo mitigar los peligros de la tecnología emergente para la seguridad nacional y la economía.

En junio, Chuck Schumer, líder de la mayoría en el Senado de Estados Unidos, pidió una "legislación amplia" para avanzar y garantizar salvaguardias en materia de inteligencia artificial.

El Congreso está estudiando un proyecto de ley que obligaría a los anuncios políticos a revelar si se ha utilizado IA para crear imágenes u otros contenidos.

Estados Unidos va a la zaga de la Unión Europea en la regulación de la inteligencia artificial.

En junio, los legisladores de la UE aprobaron una serie de normas según las cuales sistemas como ChatGPT tendrían que revelar los contenidos generados por IA, ayudar a distinguir las denominadas imágenes ultrafalsas de las reales y garantizar salvaguardias contra los contenidos ilegales.

Como parte del esfuerzo, las siete empresas se comprometieron a desarrollar un sistema de "marca de agua" en todas las formas de contenido, desde texto, imágenes, audios hasta vídeos generados por IA, para que los usuarios sepan cuándo se ha utilizado la tecnología.

Esta marca de agua, incrustada en el contenido, presumiblemente facilitará a los usuarios la detección de imágenes o audios falsificados que puedan, por ejemplo, mostrar violencia que no se ha producido, crear una estafa o distorsionar una foto de un político para poner a la persona bajo una luz poco favorecedora.

No está claro cómo se hará evidente la marca de agua al compartir la información.

Las empresas también se comprometieron a proteger la privacidad de los usuarios a medida que se desarrolle la IA y a garantizar que la tecnología esté libre de prejuicios y no se utilice para discriminar a grupos vulnerables.

Otros compromisos incluyen el desarrollo de soluciones de IA para problemas científicos como la investigación médica y la mitigación del cambio climático.

Conozca los beneficios exclusivos para
nuestros suscriptores

ACCEDA YA SUSCRÍBASE YA

MÁS DE GLOBOECONOMÍA

Chile 13/05/2024 Petrolera GeoPark acuerda compra de participaciones en cuatro bloques Vaca Muerta

La organización tendrá una participación de 45% en los bloques Mata Mora Norte y Mata Mora Sur en la provincia de Neuquén

EE.UU. 14/05/2024 Estados Unidos aprueba más aranceles a chips chinos, tecnología y carros eléctricos

El arancel sobre los carros eléctricos de China entrará en vigor este año, con un tipo final de 102,5%, frente al 27,5% actual

Chile 14/05/2024 Chile mejora estimación de PIB para 2024 apoyado en la producción y precio de cobre

El precio del cobre, del que es el mayor productor global, promediaría US$4,20 por libra este año desde un pronóstico anterior de US$3,84