El director ejecutivo de OpenAI, Sam Altman, ha vuelto a encender las alarmas sobre los riesgos existenciales de la inteligencia artificial. En una reciente intervención en el pódcast ‘Mostly Human’, Altman advirtió que las mismas capacidades que permiten a la IA realizar avances médicos históricos, como el diseño de curas para enfermedades complejas, poseen una «cara B» peligrosa: la capacidad de facilitar la creación de patógenos mortales.
Altman, enfatizó que la industria no puede confiar únicamente en la buena voluntad de los desarrolladores. Según el ejecutivo, es imperativo establecer múltiples capas de «seguridad y defensa» para garantizar que los modelos de IA se comporten de la manera deseada.
Sin embargo, reconoció una realidad inevitable: la democratización de la tecnología. Dado que herramientas de IA serán generadas por una «gran diversidad de personas», muchas de ellas no estarán sujetas a las mismas restricciones de seguridad que las grandes organizaciones. Ante este escenario, Altman subrayó que el mundo debe volverse «resiliente».
»Si alguien llegara a crear ese patógeno peligroso, debemos hacer todo lo que esté a nuestro alcance para impedir que lo desarrollen o lo liberen», afirmó Altman.
Más allá de las restricciones: La carrera por la defensa biológica
Para el líder de OpenAI, las restricciones de software tienen un límite. El surgimiento de modelos de código abierto extremadamente potentes en los próximos años hará que sea casi imposible evitar que alguien intente malutilizar la tecnología. Por ello, la estrategia debe ser proactiva y no solo prohibitiva.
Altman propone un fortalecimiento global de la infraestructura de salud pública que incluya:
Sistemas de detección temprana de pandemias basados en tecnología de punta.
Aceleración en el desarrollo de tratamientos y vacunas.
Capacidad de respuesta rápida ante amenazas biológicas desconocidas.
Esta no es la primera vez que Altman aborda el tema. Ya en febrero, durante la Cumbre de Impacto de la IA en India, señaló que los «biomodelos de código abierto» alcanzarán niveles de sofisticación que podrían facilitar la creación de agentes biológicos peligrosos.
La postura de OpenAI busca liderar una conversación global sobre la necesidad de una regulación inteligente que permita la innovación médica sin comprometer la seguridad global.
Con información de agencias
