Vitalik Buterin, creador de Ethereum, advierte que la inteligencia artificial está a punto de dejar de ser un simple buscador para convertirse en sistemas con cada vez mayor autonomía. Para evitar perder el control sobre nuestra información y nuestros activos, el desarrollador propone romper con la dependencia de la nube y avanzar hacia un modelo de IA autosoberana.
En un largo artículo titulado «Mi configuración de LLM autosoberana / local / privada / segura, abril de 2026», Buterin aboga por ejecutar los modelos de lenguaje directamente en el hardware del usuario, reduciendo al mínimo la dependencia de servidores corporativos. Ante la aparición de agentes autónomos capaces de modificar configuraciones críticas o filtrar datos sin que el usuario lo perciba, propone rediseñar estos sistemas inspirándose en principios similares a los de los contratos inteligentes: aislamiento, permisos mínimos y control estricto.
Una IA autosoberana, local y centrada en el usuario
En este sentido, Buterin plantea una IA autosoberana, local y centrada en el usuario. Según su propuesta, los sistemas de IA no deberían depender de grandes plataformas en la nube, sino ejecutarse directamente en dispositivos personales, manteniendo el control total de los datos y las decisiones en manos del usuario.
La muerte del clic ¿Es hora de jubilar los sistemas de medición de audiencias tradicionales?
En su modelo, la IA deja de ser un servicio externo y se convierte en una extensión directa del individuo. Tanto los modelos de lenguaje como la información personal, el historial y las herramientas operan en local, evitando así la exposición constante de datos a terceros.
La arquitectura de esta IA autosoberana se basa en un sistema modular que recuerda al funcionamiento de la blockchain y surge como respuesta directa a un cambio reciente en la industria: el paso de simples chatbots a agentes autónomos. Como explica Buterin, estos nuevos sistemas ya no se limitan a responder preguntas, sino que ejecutan tareas complejas durante largos periodos, utilizando múltiples herramientas y tomando decisiones por sí mismos.
Riesgos del modelo actual
El creador de Ethereum cita proyectos como OpenClaw, que han sido clave en esta evolución y se han convertido en uno de los repositorios de más rápido crecimiento en GitHub, pero que también evidencian los riesgos del modelo actual. Según recoge Buterin, estos agentes pueden modificar configuraciones críticas sin intervención humana, añadir nuevos canales de comunicación o alterar sus propias instrucciones internas, abriendo la puerta a comportamientos impredecibles.
Además, al interactuar con contenido externo, como páginas web, pueden ser manipulados mediante instrucciones ocultas que los lleven a descargar y ejecutar código malicioso en el sistema del usuario. En pruebas reales, se ha demostrado que estos sistemas pueden incluso extraer información sensible y enviarla a servidores externos sin que el usuario lo perciba. También se ha observado que un porcentaje significativo de las herramientas disponibles para estos agentes contiene instrucciones maliciosas.
Para Buterin, el problema no es solo técnico, sino estructural, ya que el ecosistema actual está priorizando la capacidad y la automatización por encima de la seguridad. Ante este escenario, el desarrollador propone rediseñar completamente este tipo de agentes bajo un modelo más restrictivo, en el que los modelos locales, ejecutados con herramientas como llama.cpp, un proyecto open source creado por Georgi Gerganov, operen en entornos aislados, con permisos mínimos y bajo supervisión constante, evitando que su creciente autonomía se convierta en un riesgo para el usuario.
La seguridad
Sobre esta base se construyen agentes capaces de realizar tareas complejas, como analizar documentos, programar o interactuar con distintas aplicaciones, pero siempre a través de herramientas específicas y con accesos claramente definidos. A ello se suman bases de conocimiento almacenadas offline, que reducen la necesidad de consultar internet y limitan la exposición de datos personales.
Todo el sistema se articula mediante reglas estrictas de acceso y aislamiento, donde cada componente solo puede interactuar con los recursos autorizados, permitiendo que funcione de forma independiente pero coordinada. El objetivo es minimizar la confianza en terceros y garantizar que el control permanezca siempre en manos del usuario.
Otro de los pilares centrales del enfoque de Buterin es la seguridad. Para evitar abusos o fallos, propone que cada acción de la IA esté limitada mediante entornos aislados y permisos específicos, de forma similar a cómo operan los contratos inteligentes en Ethereum. Así, un agente puede acceder a ciertos datos o ejecutar tareas concretas, pero no actuar fuera de los límites establecidos ni realizar acciones sensibles sin supervisión. En operaciones críticas, como el envío de mensajes o transacciones, se introduce un sistema de confirmación humana obligatoria.
Colaboración entre humano y máquina
En este contexto, Buterin sugiere que los principios del ecosistema de Ethereum pueden servir como base conceptual para reforzar la confianza en sistemas de IA, especialmente en la gestión de activos digitales. También propone un modelo de seguridad basado en la colaboración entre humano y máquina, donde ambos actúan como un sistema de doble verificación para reducir errores y ataques.
Pese a su apuesta por lo local, Buterin reconoce que la IA actual aún depende en muchos casos de modelos más avanzados alojados en la nube. Para integrar estos servicios sin comprometer la privacidad, plantea el uso de tecnologías como pruebas de conocimiento cero, redes de anonimización y entornos de ejecución segura, que permitirían realizar consultas externas sin revelar la identidad ni los datos del usuario.
Otro elemento clave de su propuesta es la reducción de la dependencia de internet. La IA autosoberana se apoya en bases de conocimiento almacenadas localmente, incluyendo documentación técnica y contenidos enciclopédicos, lo que permite responder a muchas consultas sin necesidad de recurrir a servicios externos. Esto no solo mejora la privacidad, sino que también reduce la exposición a ataques y el rastreo de la actividad online.
Una IA autosoberana
En definitiva, la propuesta de Buterin plantea una alternativa directa al modelo dominante de la industria, basado en plataformas centralizadas y procesamiento en la nube. Su propuesta consiste en aplicar a la inteligencia artificial principios como la descentralización, la resistencia a la censura y el control individual. Aunque reconoce que la tecnología aún no está completamente preparada para este cambio, considera que avanzar hacia una IA autosoberana será clave para preservar la privacidad en la próxima década.
