Durante más de dos años, Safe Superintelligence ha hecho algo bastante extraño para una empresa de inteligencia artificial valorada en decenas de miles de millones de dólares: prácticamente no ha mostrado nada.
No tiene un chatbot público. No vende una API. No publica cada pocas semanas una nueva versión de su modelo. Tampoco participa en la guerra habitual de benchmarks entre OpenAI, Google, Anthropic y el resto de los grandes laboratorios.
Ahora esa estrategia podría estar a punto de cambiar.
En agosto empezó a circular que Safe Superintelligence, más conocida como SSI, podría presentar su primer modelo de inteligencia artificial durante este mismo mes. La información tiene una fuente concreta, pero no es un anuncio oficial de SSI. Y varias de las características que algunos medios ya atribuyen al supuesto modelo —aprendizaje continuo, retroalimentación interna o una arquitectura radicalmente distinta— tampoco han sido confirmadas por la empresa.
Eso no vuelve la historia menos interesante. Al contrario.
Lo que sí ha explicado públicamente Ilya Sutskever es que cree que los modelos actuales tienen un problema fundamental: aprenden de manera extraordinariamente ineficiente frente a los humanos y generalizan peor. También ha planteado que los sistemas futuros podrían continuar aprendiendo después de ser desplegados.
Y aquí aparece una pregunta mucho más importante que si SSI lanzará algo antes de terminar agosto: ¿cómo construyes una IA que pueda seguir aprendiendo sin permitir que cualquiera le enseñe basura, la manipule, la haga olvidar lo que ya sabía o obligue a contratar un ejército de personas para supervisarla?
Antes de seguir: qué está confirmado y qué no
- Confirmado: SSI lleva dos años desarrollando una nueva línea de investigación y en julio de 2026 anunció una alianza con NVIDIA que multiplicará aproximadamente por diez su capacidad de cómputo.
- Reportado, pero no confirmado por SSI: el inversionista Gavin Baker dijo que SSI le había indicado que mostraría su modelo en agosto.
- No confirmado: arquitectura, número de parámetros, benchmarks, acceso público, API, precio o las características técnicas concretas del supuesto modelo.
- Sí dicho por Sutskever: la generalización, la eficiencia con la que aprendemos y el aprendizaje durante el despliegue forman parte de los problemas que considera centrales para la siguiente etapa de la IA.
Primero: ¿quién es Ilya Sutskever y por qué importa tanto lo que diga?
Si el nombre no te resulta familiar, vale la pena detenernos aquí porque explica buena parte de la atención que recibe SSI.
Ilya Sutskever no es simplemente otro fundador de una startup de inteligencia artificial. Es uno de los investigadores que ayudaron a construir varias de las bases de la IA moderna.
En 2012, junto con Alex Krizhevsky y Geoffrey Hinton, publicó el trabajo de AlexNet. Aquella red neuronal consiguió un salto enorme en reconocimiento de imágenes utilizando redes profundas y GPU, y se convirtió en uno de los momentos que aceleraron la adopción del deep learning.
Dos años después, Sutskever, Oriol Vinyals y Quoc Le publicaron Sequence to Sequence Learning with Neural Networks, un trabajo que mostró una forma de transformar una secuencia en otra mediante redes neuronales y que tuvo una enorme influencia en traducción automática y procesamiento del lenguaje.
Después pasó por Google Brain y en 2015 fue uno de los fundadores de OpenAI, donde terminaría siendo científico jefe. Cuando abandonó la compañía en mayo de 2024, OpenAI confirmó su salida y Sam Altman escribió que OpenAI no sería lo que es sin él.
Esto no significa que Sutskever sea infalible. Significa algo bastante más útil: cuando cuestiona la receta que ha dominado la IA durante los últimos años, habla como alguien que participó directamente en la construcción de esa receta.
SSI nació con una idea casi absurda para una startup: un solo producto y sin prisa por venderlo
Sutskever abandonó OpenAI en mayo de 2024. Un mes después apareció Safe Superintelligence Inc.
La declaración fundacional de la compañía era inusualmente directa. En su propia web, SSI dice que creó un laboratorio con “un objetivo y un producto: una superinteligencia segura”. También afirma que su estructura está diseñada para evitar la presión de ciclos comerciales de corto plazo.
Eso explica por qué durante dos años hemos visto tan poco.
Mientras OpenAI, Google o Anthropic convierten continuamente sus avances en productos, APIs y suscripciones, SSI ha intentado mantenerse mucho más tiempo en modo laboratorio.
Y los inversionistas han aceptado esperar.
La señal más fuerte llegó el 27 de julio de 2026. NVIDIA y SSI anunciaron una alianza estratégica mediante la cual la compañía tendrá acceso a sistemas Vera Rubin y podrá aumentar su capacidad de cómputo aproximadamente un orden de magnitud. NVIDIA también realizó una inversión cuyo valor no reveló oficialmente; Reuters informó que serían 5.000 millones de dólares, citando una fuente conocedora de la operación.
En el comunicado hay una frase de Sutskever mucho más interesante que la cifra: “We have research that is worthy of scaling up”. Tienen, según él, investigación que ya merece ser escalada.
No sabemos exactamente qué encontraron. Pero una empresa que llevaba dos años evitando mostrar resultados acaba de conseguir acceso a una cantidad muchísimo mayor de cómputo para llevar esa investigación al siguiente nivel.
Entonces, ¿SSI realmente lanzará un modelo en agosto?
La respuesta correcta, al 25 de agosto de 2026, es: podría hacerlo, pero SSI no lo ha confirmado públicamente.
El origen de la información es Gavin Baker, fundador y director de inversiones de Atreides Management. Durante una aparición en el podcast Invest Like the Best, Baker afirmó que SSI les había dicho que saldría con su modelo en agosto. Medios posteriores recogieron la frase, pero SSI no ha publicado una fecha oficial, una ficha técnica ni una página de producto.
Hay otra precisión importante: Baker habló de un modelo. No dijo necesariamente “LLM”. No sabemos si será un chatbot, un modelo de lenguaje convencional, un sistema de investigación o algo que SSI pretenda demostrar de otra manera.
Y esto importa porque varios titulares ya han rellenado los espacios vacíos con características que SSI nunca anunció.
La parte interesante no es agosto: es qué cree Sutskever que está mal en la IA actual
En noviembre de 2025, Sutskever tuvo una conversación larga con Dwarkesh Patel en la que explicó con bastante más detalle cómo ve el problema. La entrevista está disponible con transcripción completa.
Su crítica central no es que los modelos actuales sean malos. Todo lo contrario: son extraordinariamente capaces. El problema es que necesitan cantidades gigantescas de datos y experiencia para adquirir capacidades que un humano puede aprender con relativamente pocos ejemplos.
Además, una persona sigue cambiando después de empezar a trabajar. El modelo normalmente no.
Este punto conecta con algo que ya analizamos en ScalarPivot cuando OpenAI empezó a mostrar que el cuello de botella no es solamente producir modelos más capaces, sino también controlarlos y supervisarlos. Si la siguiente etapa consiste en permitir que esos modelos continúen aprendiendo una vez desplegados, el problema de control se vuelve todavía más complicado.
Una IA que llega a trabajar sin saber todavía el trabajo
Normalmente imaginamos una futura AGI como una máquina que sale del laboratorio sabiendo prácticamente todo: medicina, programación, derecho, ingeniería, contabilidad y cualquier otra profesión.
Sutskever plantea otra posibilidad.
Imaginemos un sistema extraordinariamente bueno aprendiendo, pero que todavía necesita adquirir experiencia después de ser desplegado.
Algo parecido a una persona excepcionalmente inteligente que entra por primera vez a una profesión. Puede tener una enorme capacidad de razonamiento, pero todavía debe aprender cómo funciona esa empresa, qué errores son frecuentes, qué procedimientos dan mejores resultados y qué conocimientos específicos necesita para hacer bien su trabajo.
En la conversación con Patel, Sutskever contempla explícitamente un escenario donde el despliegue de sistemas avanzados incluye un periodo de aprendizaje y prueba y error.
Hasta aquí la idea parece sencilla.
La parte difícil empieza precisamente después.
Porque una IA que aprende trabajando también puede aprender mal
Supongamos que una empresa instala una de estas inteligencias artificiales para revisar contratos.
Durante los primeros meses analiza miles de documentos y recibe información sobre cuáles fueron aprobados, cuáles terminaron generando problemas y cuáles recomendaciones resultaron acertadas.
En teoría debería convertirse progresivamente en una especialista extraordinaria en los contratos de esa empresa.
Pero aparece inmediatamente una pregunta: ¿de quién aprende?
Imaginemos que un empleado empieza a corregir deliberadamente al sistema y le repite que una determinada cláusula es segura cuando en realidad favorece sus propios intereses. Si la IA incorpora automáticamente cada corrección que recibe, ese empleado podría modificar poco a poco su comportamiento.
No es una preocupación inventada para este ejemplo. En seguridad de machine learning existe desde hace años el problema de los data poisoning attacks. NIST define los ataques de envenenamiento como ataques realizados durante la etapa de entrenamiento introduciendo o controlando parte de los datos para degradar o alterar el comportamiento del modelo.
Por eso resolver el aprendizaje continuo no consiste simplemente en permitir que los pesos del modelo cambien cada vez que alguien habla con él.
De hecho, probablemente sería una de las peores maneras de hacerlo.
No todo lo que ocurre debe convertirse en conocimiento
Pensemos nuevamente en el sistema que revisa contratos.
Durante una mañana podría recibir cinco tipos de información completamente distintos:
- Un abogado experto le explica correctamente una nueva regulación.
- Un empleado se equivoca y le dice que una cláusula es válida cuando no lo es.
- Un usuario intenta manipular deliberadamente el sistema.
- Aparece una sentencia que modifica realmente la interpretación jurídica.
- La IA comete un error, pero nadie se da cuenta y su recomendación termina siendo aceptada.
Para una persona, la diferencia entre esas situaciones puede parecer evidente cuando conocemos todo el contexto. Para una máquina que intenta aprender de sus resultados, no necesariamente lo es.
El hecho de que una decisión haya sido aceptada no significa que fuera correcta. El hecho de que un usuario corrija al modelo no significa que el usuario tenga razón. Y el hecho de que una estrategia haya funcionado diez veces no significa que sea una regla general.
Aquí aparece uno de los problemas centrales del aprendizaje: encontrar la señal correcta dentro de toda la experiencia.
En programación puede ser relativamente fácil: el programa compila, supera las pruebas o no lo hace. En un juego existe una puntuación. En una optimización logística podemos medir costos y tiempos.
Pero pensemos en estrategia empresarial, medicina, investigación científica o derecho. El resultado puede conocerse meses después, depender de muchas variables o incluso continuar siendo discutible.
Eso significa que una IA que aprenda trabajando necesitará algo mucho más sofisticado que un botón de “correcto” o “incorrecto”.
Entonces, ¿habría que contratar personas para enseñarle?
En algunos casos, sí.
Y este detalle es importante porque evita convertir el aprendizaje continuo en magia.
Un sistema especializado probablemente necesitaría durante parte de su aprendizaje información procedente de expertos, evaluaciones humanas, resultados verificables o alguna combinación de todos ellos.
Pero el objetivo tendría que ser que no necesitara que una persona le enseñara manualmente cada caso.
Sería poco útil crear una inteligencia artificial que necesite diez abogados supervisándola permanentemente para reemplazar el trabajo de uno.
La promesa aparece si el sistema consigue extraer una regla general después de observar relativamente pocos ejemplos buenos y después utiliza resultados del mundo real para continuar refinándose.
También existen dominios donde la supervisión puede automatizarse parcialmente. Un agente de programación puede ejecutar sus propias pruebas. Un sistema de logística puede observar costos y tiempos reales. Dos agentes pueden enfrentarse mediante self-play. Determinadas decisiones pueden pasar por verificadores independientes antes de ser incorporadas como aprendizaje.
Pero cuanto más ambiguo sea el trabajo, más difícil resulta construir una señal confiable.
Por eso cuando Sutskever insiste en que los humanos generalizamos mucho mejor que los modelos actuales está señalando algo profundo: nosotros conseguimos extraer muchísimo conocimiento de experiencias relativamente escasas sin que alguien tenga que diseñarnos una función de recompensa diferente para cada situación.
Hay otro problema todavía más extraño: aprender algo nuevo puede hacer que olvide lo anterior
Supongamos ahora que conseguimos resolver todo lo anterior.
La IA encuentra información confiable y aprende correctamente de ella.
Todavía queda otro problema.
Cuando una red neuronal modifica sus parámetros para aprender una tarea nueva, esos cambios pueden deteriorar capacidades que ya había adquirido. El fenómeno tiene nombre: catastrophic forgetting, u olvido catastrófico.
Es uno de los problemas clásicos del aprendizaje continuo. Una revisión sistemática publicada en Neural Networks resume precisamente el dilema: los sistemas deben incorporar nueva información sin degradar el conocimiento adquirido anteriormente. DeepMind lleva años investigando este problema, inspirado parcialmente en mecanismos de consolidación de memoria.
Imaginemos una IA médica.
Después de especializarse durante meses en cardiología empieza a recibir miles de casos de neurología.
No queremos que al mejorar diagnosticando enfermedades neurológicas se vuelva progresivamente peor reconociendo problemas cardíacos.
Parece absurdo, pero matemáticamente no es trivial impedirlo.
Los investigadores suelen describir este problema como un equilibrio entre plasticidad y estabilidad. Demasiada plasticidad y el sistema aprende rápido, pero modifica demasiado lo anterior. Demasiada estabilidad y conserva perfectamente lo que sabía, pero se vuelve difícil enseñarle algo nuevo.
Aprender francés no suele borrarnos el español. Estudiar economía no elimina automáticamente las matemáticas que ya conocíamos. Una experiencia nueva puede modificar lo que pensamos sin obligarnos a reconstruir desde cero todos nuestros recuerdos.
Conseguir un comportamiento comparable de manera robusta en redes neuronales sigue siendo un problema abierto.
Y todavía falta decidir qué significa realmente “aprender”
Aquí hay otra distinción que puede pasar desapercibida porque los sistemas actuales ya pueden parecer que aprenden.
Podemos darle a un modelo documentos sobre una empresa, permitirle consultar una base de datos o conservar una memoria con conversaciones anteriores. Dentro de una sesión larga incluso puede adaptar bastante bien su comportamiento a lo que va descubriendo.
Pero eso no significa necesariamente que el modelo haya aprendido.
La información puede estar simplemente almacenada fuera de él.
Es parecido a la diferencia entre recordar algo porque lo incorporaste a tu conocimiento y volver a buscarlo en tus apuntes cada vez que lo necesitas.
Cuando se habla de aprendizaje continuo en el sentido más fuerte, la idea es que parte de las experiencias importantes termine modificando de alguna forma las representaciones o capacidades internas que permiten al sistema razonar y actuar posteriormente.
Eso permitiría no solamente recordar que “en el caso X ocurrió Y”, sino extraer una regla más general: “cuando aparecen estas condiciones, probablemente existe este problema”.
Ese salto entre almacenar experiencias y extraer conocimiento de ellas es precisamente lo interesante.
Y también lo peligroso si se hace mal.
La solución probablemente no será dejar que cada conversación reescriba el modelo
Aquí conviene desmontar otra interpretación.
Que Sutskever hable de aprendizaje durante el despliegue no implica que cada conversación con un usuario vaya a modificar instantáneamente los parámetros de un futuro sistema de SSI.
SSI no ha explicado públicamente cómo resolvería este problema, por lo que cualquier arquitectura concreta sería especulación.
Pero un sistema razonablemente seguro necesitaría alguna clase de separación entre experimentar algo y aprenderlo permanentemente.
- Podría conservar temporalmente nuevas experiencias antes de convertirlas en aprendizaje.
- Evaluar la confiabilidad de la fuente.
- Comparar una observación con otras evidencias.
- Detectar patrones anómalos o intentos de manipulación.
- Probar una actualización en un entorno controlado antes de incorporarla al sistema principal.
- Mantener mecanismos de auditoría y reversión si una actualización empeora el comportamiento.
Esto no es una descripción del modelo de SSI. Es el tipo de problema de ingeniería que cualquier sistema de aprendizaje continuo desplegado en el mundo real tendría que enfrentar.
Y es también la razón por la que el tema se cruza inevitablemente con seguridad. En otro artículo mostramos cómo los agentes autónomos ya obligan a repensar qué significa mantener un sistema dentro del entorno previsto. Si además ese agente puede modificar lo que aprende a partir de su propia experiencia, la superficie de riesgo crece.
Ahora sí se entiende por qué sería un avance enorme
La frase “una IA que aprende mientras trabaja” puede sonar casi trivial.
No lo es.
Para conseguirlo de manera robusta habría que resolver simultáneamente varias cosas:
- que aprenda con pocos ejemplos;
- que sepa distinguir experiencia útil de ruido;
- que resista intentos deliberados de enseñarle información falsa;
- que no convierta cada error o resultado accidental en una regla;
- que aprenda capacidades nuevas sin destruir las anteriores;
- que sepa cuándo necesita consultar a un humano;
- y que todo esto pueda hacerse con un costo suficientemente bajo como para tener sentido económico.
Eso es bastante diferente de conectar un chatbot a una base de datos y llamarlo “memoria”.
Los modelos actuales pueden comenzar una tarea siendo extraordinariamente capaces y, sin embargo, un trabajador humano mucho menos brillante puede terminar superándolos después de seis meses porque el humano acumula experiencia todos los días.
Descubre las peculiaridades de la empresa. Aprende qué estrategias suelen fallar. Reconoce excepciones. Entiende mejor a sus compañeros. Corrige errores anteriores. Y al cabo de seis meses ya no es la misma persona que empezó.
El modelo, en cambio, puede continuar siendo esencialmente el mismo modelo que llegó el primer día.
Ese es el problema verdaderamente interesante detrás de las ideas de Sutskever.
Sutskever también cree que la época de simplemente hacerlo todo más grande está cambiando
Durante buena parte de los últimos años la receta de la industria fue relativamente clara: más datos, más parámetros y muchísimo más cómputo.
Funcionó tan bien que la industria terminó construyendo infraestructuras gigantescas alrededor de esa idea.
Sutskever no sostiene que el cómputo haya dejado de importar —sería difícil defender eso justo después de multiplicar el de SSI por diez— sino que el siguiente salto probablemente exigirá nuevas ideas de investigación además de escala.
En la entrevista con Patel describe aproximadamente una “era del escalamiento” y sostiene que estamos regresando a una etapa donde encontrar mejores métodos vuelve a ser central.
La aparente contradicción con la alianza de NVIDIA se resuelve bastante fácil: una nueva idea puede necesitar muchísimo cómputo para comprobar si funciona a gran escala.
Eso hace que la frase de Sutskever —“tenemos investigación que merece ser escalada”— sea quizá el dato más importante que SSI ha revelado este año.
Si SSI muestra un modelo, estas son las preguntas que realmente importan
Si finalmente aparece algo de SSI, será tentador abrir inmediatamente un leaderboard y preguntar si supera a GPT, Claude o Gemini.
Puede que esa sea la pregunta menos interesante.
Yo miraría primero otras cosas:
- ¿Puede aprender realmente una capacidad nueva después del entrenamiento inicial?
- ¿Cuántos ejemplos necesita frente a modelos actuales?
- ¿Ese aprendizaje modifica el modelo o solamente utiliza memoria y contexto externo?
- ¿Cómo determina qué experiencias son confiables?
- ¿Qué ocurre cuando recibe información contradictoria o maliciosa?
- ¿Puede aprender algo nuevo sin deteriorar capacidades anteriores?
- ¿Qué mecanismos permiten auditar, bloquear o revertir una actualización?
Si SSI consigue responder bien a varias de esas preguntas, entonces sí estaríamos ante algo potencialmente más importante que unos cuantos puntos adicionales en un benchmark.
Por qué vale la pena seguir mirando a SSI
No sabemos si Sutskever encontró una nueva receta para construir inteligencia artificial.
No sabemos siquiera si SSI presentará efectivamente un modelo antes de terminar agosto.
Y sería un error transformar el secretismo de la empresa en evidencia de que tiene algo revolucionario. El silencio no es un benchmark.
Pero tampoco estamos hablando de una startup cualquiera haciendo promesas vagas sobre AGI.
Sutskever estuvo en el centro de AlexNet, ayudó a desarrollar el aprendizaje secuencia a secuencia, cofundó OpenAI y dirigió durante años parte de su investigación. Ahora sostiene que la capacidad de los modelos para generalizar y aprender eficientemente sigue muy lejos de la humana, creó una empresa dedicada exclusivamente a atacar el problema de la superinteligencia y acaba de conseguir recursos para multiplicar de forma drástica la escala de su investigación.
Eso merece atención.
Si SSI termina mostrando simplemente otro modelo más grande y mejor afinado, será una noticia importante pero bastante convencional.
Si en cambio demuestra un sistema capaz de adquirir experiencia de manera segura, eficiente y acumulativa, la historia será distinta.
Porque habríamos cambiado una de las características fundamentales de cómo utilizamos inteligencia artificial:
de máquinas que son entrenadas y después trabajan, a máquinas que continúan aprendiendo del trabajo que hacen.
Fuentes principales
- Safe Superintelligence Inc. — sitio y declaración fundacional.
- NVIDIA — alianza estratégica con SSI, 27 de julio de 2026.
- Reuters — inversión reportada de NVIDIA en SSI.
- Dwarkesh Patel — entrevista con Ilya Sutskever, noviembre de 2025.
- NeurIPS — ImageNet Classification with Deep Convolutional Neural Networks, 2012.
- Google Research — Sequence to Sequence Learning with Neural Networks, 2014.
- NIST — taxonomía de ataques adversariales y data poisoning.
- Neural Networks — revisión sistemática sobre continual learning, 2026.
Crédito de la imagen destacada: Steve Jurvetson / Wikimedia Commons, licencia CC BY 2.0.
