Investigador de Anthropic advierte riesgos existenciales en la seguridad de inteligencia artificial
Mrinank Sharma, exlíder de salvaguardias en Anthropic, dimitió tras alertar sobre la falta de medidas preventivas ante el avance acelerado de la IA.
El investigador Mrinank Sharma, quien encabezó el equipo de investigación de salvaguardias en la empresa Anthropic desde su creación el año pasado, presentó formalmente su renuncia. A través de una misiva pública, el especialista advirtió que la humanidad enfrenta riesgos significativos derivados del desarrollo descontrolado de sistemas de inteligencia artificial avanzada, señalando que las medidas de seguridad actuales son insuficientes frente a la velocidad de la innovación tecnológica.
La salida de Sharma se produce en un momento en que el debate sobre la regulación de la IA ha cobrado relevancia en las agendas internacionales y locales. En México, la discusión sobre la ciberseguridad y el uso ético de estas tecnologías ha comenzado a permear en las comisiones de ciencia y tecnología del Congreso de la Unión, buscando establecer marcos normativos que protejan a los usuarios sin frenar el desarrollo técnico.
En su carta de dimisión, el investigador enfatizó que el sector privado debe priorizar la transparencia sobre la competitividad de mercado. Sharma argumenta que, sin protocolos de seguridad más estrictos y una vigilancia independiente, los modelos de IA podrían superar la capacidad de control de sus creadores, lo que representaría una amenaza directa para la estabilidad de las infraestructuras críticas y la seguridad pública.
La postura del exdirectivo de Anthropic ha generado reacciones entre expertos en México, quienes coinciden en que la inteligencia artificial requiere una supervisión multidisciplinaria. Instituciones como el CONAHCYT y especialistas en ciberseguridad han sugerido que el Estado mexicano debería fortalecer su capacidad de análisis técnico para entender cómo estas herramientas impactan en sectores estratégicos, desde la economía gestionada por la SHCP hasta la seguridad nacional bajo la vigilancia de la SSPC.
Finalmente, el caso de Sharma subraya la creciente tensión entre los gigantes tecnológicos y los defensores de una ética rigurosa en la IA. Aunque la industria continúa promoviendo el avance tecnológico como una ventaja competitiva, las advertencias sobre posibles peligros existenciales han forzado a legisladores a considerar nuevas propuestas de ley que garanticen que la inteligencia artificial siga siendo una herramienta bajo supervisión humana constante.
