Vitalik Buterin, creador de Ethereum, cuestiona la carrera por desarrollar sistemas de inteligencia artificial cada vez más autónomos y rechaza la idea de que acelerar su desarrollo sea inevitable. También critica a quienes trabajan en compañías que impulsan la IA avanzada con el argumento de que podrán hacerla más segura desde dentro.
Buterin considera que quienes están preocupados por los riesgos de la IA no deberían contribuir al desarrollo de sistemas autónomos de frontera y cuestiona la concentración de poder justificada en nombre de la seguridad futura de esta tecnología. «No trabajes para una empresa que está haciendo que las capacidades de IA totalmente autónomas de vanguardia avancen aún más rápido. No vivas en el Área de la Bahía de San Francisco», dice.
Vitalik, la IA y el altruismo efectivo
Las afirmaciones forman parte de una reflexión sobre la inteligencia artificial y determinadas corrientes del altruismo efectivo vinculadas con la seguridad de la IA. Buterin reconoce la influencia que el altruismo efectivo ha tenido en su formación intelectual y mantiene su defensa de valores como la preocupación por los demás, el cosmopolitismo y el uso riguroso de los recursos. Sin embargo, cuestiona algunas de las estrategias surgidas alrededor de la IA.
Vitalik sostiene que en los círculos del altruismo efectivo relacionados con la IA existen personas influyentes cuya estrategia consiste en conseguir el máximo poder posible para estar en condiciones de actuar cuando llegue un momento crucial. Ese razonamiento, advierte, puede servir para justificar cualquier concentración de poder. Dame poder para poder hacer X es un argumento igualmente convincente, independientemente de la X, afirma. Hasta que llegue ese hipotético momento decisivo, las acciones de una persona que acumula poder por razones altruistas pueden ser exactamente las mismas que las de alguien que lo hace por interés propio.
Vitalik no cree que la carrera de la IA sea inevitable
Buterin cuestiona también el argumento de que, como la inteligencia artificial avanzada terminará desarrollándose de todas formas. Define este razonamiento como inevitabilismo. Según Buterin, la IA no es un mercado en el que existan infinitos actores capaces de sustituirse inmediatamente unos a otros. Buena parte del progreso se concentra en pocas personas y compañías. Por ello, sostiene que si alguno de esos actores decide detenerse o reducir el ritmo, el desarrollo de la tecnología puede ralentizarse.
También rechaza que las únicas posibilidades sean acelerar hacia la automatización completa o abandonar el desarrollo de la inteligencia artificial. En este sentido, plantea desarrollar formas de automatización parcial que aumenten las capacidades de los seres humanos en lugar de sustituirlos completamente.
Este modelo, sostiene, permitiría prolongar el periodo en el que humanos e IA trabajando conjuntamente puedan superar a sistemas exclusivamente automatizados y ofrecería más margen para gestionar una eventual transición hacia la superinteligencia. La crítica de Buterin no supone un rechazo general del altruismo efectivo. Lo que cuestiona es que determinadas ideas asociadas a esta corriente puedan utilizarse para justificar decisiones presentes apelando a beneficios enormes pero difíciles de comprobar en un futuro lejano.
Resultados son imposibles de comprobar
Su advertencia es que, si una historia sobre enormes consecuencias positivas a largo plazo puede utilizarse para justificar prácticamente cualquier cosa, deja de ser útil para decidir qué hacer. En el caso de la IA, Buterin cuestiona así que los hipotéticos beneficios futuros puedan utilizarse para justificar decisiones que contribuyen hoy a acelerar el desarrollo de sistemas cada vez más autónomos.
Según Vitalik, las promesas sobre los enormes beneficios futuros de la IA pueden convertirse en una justificación para decisiones presentes cuyos resultados son imposibles de comprobar. Cuanto más lejano es el beneficio prometido, mayor es el riesgo de que un argumento solo necesite parecer convincente, en lugar de demostrar que realmente funciona, argumenta
