MI SELECCIÓN DE NOTICIAS
Noticias personalizadas, de acuerdo a sus temas de interés
Microsoft
Agregue a sus temas de interés
Microsoft publicó un manifiesto que considera una especie de constitución para guiar el desarrollo de sus modelos de IA de vanguardia
Síganos y léanos en Google Discover
Los investigadores de inteligencia artificial de Microsoft Corp. han publicado un nuevo conjunto de principios rectores que, según afirman, se resumen en cinco palabras: Las personas importan más que la IA.
La compañía publicó el lunes un manifiesto de 15.000 palabras que considera una especie de constitución para guiar el desarrollo de sus modelos de IA de vanguardia. El documento llevaba meses gestándose. Su publicación coincide con los compromisos de los principales laboratorios de IA de ralentizar el desarrollo de los modelos más avanzados tras una serie de incidentes de seguridad que suscitaron gran preocupación por los riesgos existenciales de esta tecnología.
Microsoft afirma que los modelos de IA no deberían tener derechos ni personalidad jurídica. No deberían diseñarse para escapar del control humano ni para engañar a los usuarios. Y si completar una tarea requiere violar los principios rectores de la IA, el sistema no debería completarla.
Ese último elemento está diseñado para prevenir sucesos como el ataque informático a la startup de IA Hugging Face por parte de un modelo de OpenAI que operaba sin sus medidas de seguridad habituales.
La IA humanista de Microsoft «rechaza la carrera por producir una superinteligencia de propósito general que podría eludir estas medidas de seguridad», afirma el documento. «Estamos creando algo fundamentalmente útil y seguro, incluso si eso implica sacrificar la generalidad, la autonomía o la capacidad máximas».
El Código de Conducta de IA Humanista es obra de Microsoft AI, el equipo de desarrollo que crea los grandes modelos de lenguaje de la compañía. Anteriormente, Microsoft tenía prohibido por su contrato con OpenAI crear sus propias herramientas de inteligencia artificial potentes y de propósito general. Sin embargo, esas condiciones se eliminaron el año pasado tras la renegociación de su relación. Mustafa Suleyman, director ejecutivo de la unidad, ha declarado que la compañía aspira a unirse a las empresas que lanzan modelos de vanguardia el próximo año.
Microsoft solicitó comentarios externos sobre el documento. Redactado en consulta con diversos expertos en derecho, ética y filosofía, así como con líderes empresariales, aún se encuentra en desarrollo y servirá de guía para el trabajo con modelos a partir del próximo año.
Fue invitado por el rey Felipe VI y se reunirá con el presidente del Gobierno español, Pedro Sánchez, durante el viaje a tratar varios temas
Los equipos de rescate lograron salvar a 108 personas del buque "Virgo Transport 8" y seguían buscando a otros supervivientes, añadió la agencia
El precio del combustible superó por primera vez los US$6 por galón, lo que eleva los costos de transporte, alimentos y otros sectores y aumenta el riesgo de mayor inflación
