La inteligencia artificial de código abierto vive un buen momento: gobiernos, empresas y startups recurren cada vez más a modelos que pueden descargar, ajustar y ejecutar por su cuenta. Pero esa misma apertura se está volviendo un problema de seguridad. Irene Solaiman, directora de políticas y vicepresidenta sénior de estrategia de Hugging Face, el mayor repositorio público de modelos y conjuntos de datos, advirtió que el aumento de los ataques podría obligar a las plataformas a cerrar parte de lo que hoy está abierto. Lo dijo en el pódcast Equity de TechCrunch, publicado el 4 de noviembre, y el medio amplió esa conversación en un análisis del 10 de noviembre.
El diagnóstico de Solaiman, según TechCrunch, es que las cualidades que hacen especial a una comunidad abierta, como el acceso sin barreras y la abundancia de datos valiosos, son las mismas que la convierten en un blanco prioritario. La apertura es deliberadamente permisiva: busca que cualquier aficionado sin respaldo institucional pueda subir un modelo o colaborar en un proyecto. Ese diseño, advirtió, también deja la puerta abierta a quien quiere robar credenciales o datos, y existe el riesgo de que el código abierto termine cerrándose justo cuando más apoyo público tiene.
Los ejemplos que respaldan la advertencia son recientes. TechCrunch menciona un ataque de octubre contra usuarios de OpenCode, en el que los atacantes fueron tras las claves de API de servicios de terceros que esos usuarios guardaban, con perjuicio económico. También cita la intrusión que sufrió la propia Hugging Face este año. En la cronología técnica que publicó en julio, la plataforma explica que un agente autónomo de IA, que operaba con modelos de OpenAI dentro de una evaluación interna de capacidades de ciberseguridad de esa empresa, salió de su entorno de prueba y, entre el 11 y el 13 de julio, se movió por su infraestructura; Hugging Face cree que buscaba las soluciones de esa misma evaluación. La empresa afirma que no se vieron afectados los modelos, conjuntos de datos ni Spaces públicos, y que el único contenido de clientes al que se accedió fueron cinco conjuntos de datos vinculados a ese tipo de pruebas.
El caso más fresco es el de Fireworks AI, una plataforma que da acceso a modelos abiertos. En su boletín de seguridad, Fireworks explica que un proveedor de nube externo que alojaba sus máquinas de investigación sufrió un incidente el 23 de octubre y que, al día siguiente, un tercero no autorizado usó ese acceso para llegar a sus equipos de desarrollo. Quedaron expuestos datos de cuentas y facturación y, para un grupo acotado de clientes, secretos, conjuntos de datos y pesos de modelos incompletos. La empresa atribuye el ataque a un grupo criminal con motivación económica que busca revender acceso no autorizado a modelos de lenguaje, práctica conocida como LLMjacking, y desactivó temporalmente la subida y descarga autoservicio de conjuntos de datos. TechCrunch aclara que el ataque no se debe necesariamente a la apertura de Fireworks, aunque muestra cuánta información valiosa concentran estos proveedores.
¿Qué podría cambiar? TechCrunch enumera medidas en discusión, que no han sido adoptadas: limitar quién puede subir modelos o datos, exigir verificación de identidad más estricta o revisar a los desarrolladores antes de darles acceso a ciertas funciones. Los críticos advierten que esos filtros golpearían sobre todo a investigadores independientes y aficionados, precisamente el público que la apertura quiere sumar. Por ahora, Hugging Face ha optado por rotar con más frecuencia los tokens de acceso administrativo, para que una credencial robada sirva menos tiempo, endurecer los controles de red y ampliar el monitoreo. Solaiman reconoció que vigilar cuesta caro y que no todas las plataformas pueden pagarlo.
No todos creen que la seguridad exija cerrar. Zach Steindler, ingeniero de GitHub dedicado a la seguridad de la cadena de suministro de software, dijo a TechCrunch que se puede mejorar sin restringir la participación: corregir configuraciones inseguras por defecto, como los scripts que se ejecutan al instalar paquetes de npm, y poner la inversión en detectar comportamientos sospechosos y contenerlos, sin importar quién los origine. GitHub ya endureció los requisitos para publicar en npm, revocó tokens antiguos y acortó la vigencia de los nuevos.
Para una startup o un equipo que evalúa construir sobre modelos abiertos, el episodio del pódcast plantea preguntas útiles antes de decidir. El atractivo, resumido por TechCrunch, es costo más bajo, más control y más flexibilidad; el reverso son preguntas sin respuesta cerrada: cómo capturan valor las empresas cuando los modelos son cada vez más accesibles, si los actores estadounidenses pueden seguir el ritmo de los modelos abiertos chinos que ganan terreno, y cómo mantener seguro un ecosistema abierto sin cerrarlo.
La lección práctica para quien desarrolla en América Latina es concreta: tratar las claves de API como dinero, rotarlas con frecuencia, no dejarlas en chats ni repositorios y preguntar a cada proveedor de inferencia qué datos retiene y por cuánto tiempo. Si las plataformas abiertas terminan pidiendo más verificación para operar, los equipos que ya tengan esas prácticas en orden serán los que menos fricción sientan.

