Musk propone controles cruzados para la IA mientras Huang y Trump minimizan sus riesgos

Síganos y léanos en Google Discover

ARTÍCULO RELACIONADO

CEO de Nvidia puso a Trump al teléfono y el presidente de EE.UU. minimizó riesgos de la IA

Dos de los magnates más grandes del mundo están enfrentados en un debate entorno a la inteligencia artificial. Mientras que Elon Musk, el hombre más rico del mundo, dice que la IA requiere de controles cruzados, Jensen Huang, CEO de Nvidia, minimizó sus riesgos, en una visión compartida con el presidente de EE.UU., Donald Trump.

Todo comenzó en un reciente episodio del popular podcast estadounidense sobre negocios, tecnología y economía, All-In, que contó con la participación de ejecutivos de SpaceX como Gwynne Shotwell y Elon Musk. Junto a los anfitriones del programa, en donde el fundador de Tesla alertó de las consecuencias negativas provenientes de un mal uso sobre la inteligencia artificial, además de discutir temas en el desarrollo de esta herramienta, la gestión empresarial y los proyectos espaciales de la compañía.

"Los principales competidores de IA prueben los modelos de los demás, de modo que el marco de pruebas de seguridad de cada uno evalúe los de los demás. Así, en lugar de calificar tu propia tarea, al menos tendrías a competidores calificándotela", afirmó Musk.

ARTÍCULO RELACIONADO

Cámara de Diputados de México reconoció regulación de la Inteligencia Artificial en política

La conversación se centró en los riesgos al avance acelerado de las tecnologías emergentes y las estrategias requeridas para supervisar su despliegue en el mercado actual.

En relación con la seguridad de la inteligencia artificial, Musk planteó la implementación de un sistema de evaluación cruzada en el que los principales competidores de la industria prueben e inspeccionen los modelos de las demás empresas antes de su lanzamiento.

Según lo expresado durante la emisión, este mecanismo busca evitar la autoevaluación y generar incentivos para someter los modelos a revisiones rigurosas. Se señaló además que el incumplimiento de las advertencias derivadas de este proceso podría incrementar la responsabilidad legal de las organizaciones ante eventuales fallas.

"Si competidores directos dicen que un modelo no es seguro, y luego ese modelo hace algo malo, creo que sería extremadamente difícil de superar", afirmó Musk.

ARTÍCULO RELACIONADO

El crecimiento está vinculado a las cadenas de inteligencia artificial junto a la tecnología

Durante el intercambio de opiniones entre los participantes, se discutió la viabilidad de utilizar marcos de seguridad de código abierto en lugar de recurrir a la creación de organismos de regulación internacional. En el debate se hizo referencia a la aplicación del marco normativo existente sobre responsabilidad por productos defectuosos, concluyendo que la ignorancia deliberada de las evaluaciones negativas por parte de una empresa podría ser considerada como negligencia grave en un entorno judicial.

En el ámbito de la gestión corporativa y la tecnología aeroespacial, Shotwell detalló los criterios operativos de SpaceX, destacando la adopción de la inteligencia artificial en el diseño de naves y el enfoque en la reducción de procesos administrativos para potenciar el trabajo de los ingenieros. Asimismo, la ejecutiva se refirió a las oportunidades de crecimiento comercial para la red Starlink y al alquiler de capacidad de cómputo, aspectos orientados a sostener las operaciones de la entidad.

ARTÍCULO RELACIONADO

Líderes políticos y expertos en tecnología advierten sobre la inteligencia artificial

Por su parte, Musk expuso los avances en el proyecto Starship para lograr la reutilización completa de las arquitecturas orbitales y justificó la iniciativa Terafab para la fabricación de chips como una medida destinada a mitigar la dependencia de cadenas de suministro externas. El debate concluyó con un análisis sobre la regulación de la industria y el equilibrio entre las dinámicas de autorregulación interna y la intervención estatal.

Asimismo, durante una intervención en vivo en el marco del All-In Summit, el presidente de Estados Unidos, Donald Trump, realizó una llamada telefónica en directo al CEO de Nvidia, Jensen Huang, mientras este se encontraba en el escenario del evento organizado por los anfitriones del podcast All-In. La llamada interrumpió la sesión y fue puesta en altavoz para toda la audiencia presente.

Durante la conversación, el mandatario estadounidense desestimó las advertencias catastróficas sobre el avance de la inteligencia artificial y rechazó las propuestas de ralentizar el desarrollo tecnológico en el país. En sus declaraciones, argumentó que frenar la innovación en este sector beneficia directamente a competidores internacionales como China y perjudica el liderazgo económico y tecnológico de la nación.

"Les digo que todo esto es un engaño. Los centros de datos son fantásticos: enriquecen a la gente y enriquecen a los estados. Son el petróleo de los próximos 20 o 25 años; es algo mucho más grande que internet y que la propia IA, ya saben, muchísimo más", afirmó Trump.

Además, se enfatizó en la importancia de la infraestructura tecnológica, comparando los centros de procesamiento de datos con los recursos energéticos estratégicos de las próximas décadas. De igual manera, se respaldó el crecimiento del sector de semiconductores como un motor central para la creación de riqueza e inversión a nivel estatal y nacional.

Por su parte, el directivo de Nvidia coincidió en la necesidad de asegurar la competitividad del país en la carrera tecnológica, manteniendo la continuidad del desarrollo industrial mientras se aplican revisiones operativas internas sin detener la producción de hardware avanzado.

Este suceso generó un contraste directo con las posturas expresadas en otros paneles del evento, donde directivos y especialistas debatían sobre la aplicación de marcos normativos, responsabilidad legal e inspecciones cruzadas de seguridad entre empresas competidoras.

Tras las declaraciones del mandatario estadounidense, el CEO de Nvidia coincidió con su postura y dio por concluida la llamada asegurando a Trump que no permitiría que ninguna de estas advertencias llegara a realizarse.

El riesgo potencial que representa la inteligencia artificial para la sociedad ha desatado una fuerte controversia recientemente. Tras la dimisión de Coxon y su advertencia sobre cómo Anthropic y OpenAI ponen en riesgo la seguridad colectiva, aumentaron las peticiones para pausar el avance técnico.

En respuesta, Dario Amodei, máximo responsable de Anthropic, compartió un extenso escrito de 3.800 palabras planteando una tregua en el desarrollo, una postura que contó con el apoyo público de Sam Altman, líder de OpenAI, y de Elon Musk, director de SpaceX.

Esta propuesta de pausar la inversión repercutió de inmediato en Wall Street, provocando la caída de los títulos tecnológicos este lunes. Nvidia, catalogada como la compañía de mayor cotización global, sufrió una bajada del 3,4% en sus acciones debido al temor de los inversores.

Distintos representantes tecnológicosy políticos también se han sumado al debate de la inteligencia artificial, como el senador estadounidense Bernie Sanders, quien la semana pasada instó a los líderes de OpenAI, Anthropic y Meta a pausar el desarrollo de la inteligencia artificial para evitar desastres como la creación de armas biológicas o la pérdida de control humano, amenazando con regular la industria desde el Congreso.

Esta preocupación coincide con una ola de renuncias y advertencias de figuras clave del sector: los investigadores de seguridad Mrinank Sharma y Coxon abandonaron Anthropic alertando que la capacidad técnica de la humanidad supera su sabiduría moral y que estos sistemas pronto podrían superar las capacidades humanas con riesgos existenciales, mientras que Emad Mostaque, ex CEO de Stability AI, prevé una rápida disrupción económica con desempleo masivo en trabajos de oficina que podría desencadenar inestabilidad social si los gobiernos no intervienen.