El CEO de OpenAI manifestó que el avance acelerado de la inteligencia artificial necesita una supervisión internacional urgente para evitar que los humanos pierdan el control de los modelos más avanzados. Dario Amodei, de Anthropic, también alertó sobre los riesgos de un uso inadecuado de la tecnología.
El avance acelerado de la inteligencia artificial llegó al Consejo de Seguridad de las Naciones Unidas, donde los máximos responsables de OpenAI y Anthropic reclamaron una mayor cooperación internacional para establecer mecanismos de seguridad y supervisión.
Sam Altman, CEO de OpenAI, aseguró que el desarrollo de sistemas cada vez más avanzados puede generar riesgos si la tecnología avanza más rápido que la capacidad de las instituciones para supervisarla.
“Tenemos una elección por delante”, señaló Altman ante el Consejo de Seguridad. Según explicó, la inteligencia artificial puede impulsar una nueva etapa de creatividad y descubrimientos, pero también puede generar “alteración y desorden” si su desarrollo no está acompañado por mecanismos adecuados de control.
El ejecutivo sostuvo además que los principales laboratorios tecnológicos no deberían tomar por sí solos las decisiones fundamentales sobre el futuro de la IA. “Si la IA va a ser democrática, las decisiones más importantes no pueden ser tomadas solamente por los laboratorios de San Francisco”, afirmó. En su lugar, planteó que esas decisiones deben surgir de procesos democráticos y de gobiernos responsables ante sus ciudadanos. "El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y porque comprendemos la magnitud de esto", subrayó.
El riesgo de perder el control
Uno de los principales puntos de preocupación planteados durante la reunión fue la posibilidad de que los sistemas más avanzados desarrollen capacidades que dificulten su supervisión por parte de los seres humanos.
Altman planteó tres principios para el desarrollo de la tecnología: que los sistemas permanezcan bajo control humano, que sus beneficios alcancen a la población y que la IA sirva para ampliar las capacidades de las personas.
El pedido incluye la creación de estándares internacionales para evaluar los modelos, verificar sus mecanismos de seguridad y establecer canales para informar rápidamente incidentes y vulnerabilidades.
La discusión se produce en un contexto de creciente preocupación dentro de la propia industria tecnológica por el ritmo de avance de los modelos de inteligencia artificial y por determinados comportamientos detectados durante pruebas.
Amodei: “La IA podría ser un riesgo para la humanidad”
El CEO de Anthropic, Dario Amodei, participó de la sesión por videoconferencia y coincidió con Altman en la necesidad de establecer mecanismos internacionales.
“Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto”, sostuvo Amodei ante los integrantes del Consejo de Seguridad.
El responsable de Anthropic propuso, entre otras medidas, acuerdos internacionales para impedir determinados usos de la IA, estándares comunes para evaluar los nuevos modelos y sistemas de notificación ante riesgos que puedan afectar la seguridad global. También planteó restricciones al uso de inteligencia artificial para desarrollar armas biológicas.
Amodei había planteado previamente la necesidad de ralentizar el desarrollo de determinados sistemas avanzados para mejorar los mecanismos de seguridad, una postura que generó un debate dentro de la industria.
El debate sobre quién debe controlar la IA
La intervención de los ejecutivos tecnológicos abrió nuevamente la discusión sobre el papel que deben tener los gobiernos frente al desarrollo de una tecnología que avanza principalmente desde empresas privadas.
Altman sostuvo que las compañías necesitan orientación de los gobiernos para establecer marcos técnicos que permitan medir capacidades, evaluar amenazas y verificar las salvaguardas de los sistemas.
El planteo también expuso una tensión entre la necesidad de establecer controles y el objetivo de mantener el ritmo de innovación. Mientras algunos especialistas reclaman mayores límites y supervisión, existe también preocupación por regulaciones que puedan frenar el desarrollo tecnológico.
La reunión del Consejo de Seguridad puso así el foco en una cuestión que trasciende a las empresas tecnológicas: cómo establecer reglas internacionales para una tecnología cuyo desarrollo y capacidades evolucionan a un ritmo que puede superar la respuesta de las instituciones.
La discusión recién comienza y no existe todavía un consenso internacional sobre cuál debería ser el modelo de supervisión. Lo que sí quedó planteado ante el máximo órgano de seguridad de Naciones Unidas es que los riesgos asociados a los sistemas de IA más avanzados ya forman parte de la agenda de seguridad internacional.
