La inteligencia artificial no es peligrosa siempre que se superen cuatro aspectos importantes: las automatizaciones, el aprendizaje no supervisado, el gasto energético y las unidades humanas no productivas.
Antes de explicar mi respuesta vamos a ver la situación actual de la inteligencia artificial. Grandes corporaciones americanas como OpenAI, Google y Meta han publicado de forma repentina que modelos experimentales se han descontrolado , han salido de un entorno seguro y han intentado hackear sistemas informáticos. Tenemos que ver esta noticia en el contexto social y económico actual. Se han dedicado gigantescas cantidades de dinero en el desarrollo en Estados Unidos de la inteligencia artificial y a día de hoy estas grandes corporaciones no son capaces de justificar estos gastos con una rentabilidad, ya que les ha salido un competidor inesperado: "China". China ha sacado modelos de inteligencia artificial muy competitivos como DeepSeek, Qwen y Kimi, que entregan al usuario final de forma gratuita con prestaciones no muy diferentes a los de pago de las corporaciones americanas, que se ven limitadas a suscripciones muy baratas en torno a los 20 euros mensuales, que dista mucho de lo que tendría que ser para que fuesen rentables. Para contrarrestar esta situación las corporaciones americanas se han planteado el incluir publicidad en la inteligencia artificial, pero ahí se genera un dilema: ¿quién se va a fiar de las respuestas de una inteligencia artificial condicionada por la publicidad?.Si partiésemos de una base en la cual a nivel tecnológico los dos países tuviesen la misma capacidad tecnológica, la gran diferencia es el origen de los recursos económicos. En China estos llegan del estado, que ve un reto de imagen y proporciona unos recursos casi ilimitados sin una necesidad inmediata de reposición. En el caso de Estados Unidos los recursos llegan de fondos privados principalmente, que como es lógico quieren un reembolso de intereses. Pues de esta situación viene el miedo generado sobre la inteligencia artificial. ¿Cómo pueden justificar las grandes corporaciones americanas que las gigantescas inversiones no están reportando los objetivos iniciales? Generando una situación de miedo, que justifica el retraso y la pérdida de la batalla con China.
Pues bien, después de ver este contexto, vamos a analizar los cuatro problemas que, en mi opinión, hacen que la IA pueda ser peligrosa si no se controlan.
El aprendizaje no supervisado
Esto para que se entienda de forma coloquial es que la misma IA perfecciona modelos sin la supervisión del ser humano. Provoca dos cosas: la primera que se intente perfeccionar de forma recurrente sin un objetivo claro de forma infinita, y la segunda es que cualquier fallo al no ser supervisado se va pasando de un modelo a otro sin ningún tipo de control. Degradación del modelo (model collapse) ,cuando una IA se nutre de datos generados por otra IA o por ella misma, la calidad va cayendo. Es como hacer una fotocopia de otra fotocopia: cada vez se ve mas borrosa. Al final, el modelo pierde coherencia y utilidad.
Las automatizaciones
La tendencia es que en la actualidad se intente automatizar con IA todo tipo de procesos, sin entender que en la mayoría de los casos esto no es necesario. Pongo un ejemplo: la automatización de respuesta de correos electrónicos en empresa, muchas pequeñas empresas reciben 2 o 3 correos diarios o una tienda pequeña recibe 3 reseñas al mes. Los dueños automatizan las respuestas con IA. La IA responde "Gracias por su comentario, valoramos mucho su opinión" a una reseña que dice "el paquete llegó roto". Queda mucho peor que si no hubieran respondido nada. ¿Realmente necesitamos automatizar esto? Pero si no lo automatizas parece que estás fuera de las tendencias tecnológicas, FOMO (Fear Of Missing Out).
El gasto energético
Si le preguntas a las IA, de las consultas que reciben diarias cuáles catalogarías de tonterías y cuáles de verdadero interés, la mayoría te dicen 70% de bajo interés por no decir tonterías y un 30% de interés. Si a las mismas IA le preguntas qué gasto energético calculas que tienen todas las IA que se utilizan a nivel mundial diariamente, la respuesta abruma: el correspondiente a todos los hogares de Alemania. ¿Realmente es necesario este despilfarro energético?
Unidades humanas no productivas
Desde la revolución industrial nos han dicho que el ser humano tiene que ser productivo. Si la inteligencia artificial, de la mano de la robótica, hace que el valor productivo tanto de la mano de obra como intelectual del ser humano tenga menos valor en la cadena de producción, se hará una división entre mano de obra y pensadores científicos altamente cualificados, y el resto serán unidades humanas residuales. Se habla de un ingreso vital universal para que estas unidades se puedan mantener, pero la pregunta es hasta qué punto los estados, los grandes lobbies económicos o los dirigentes sociales están dispuestos a mantener a unidades humanas no productivas.
Se necesita un alto en el camino
Con todo esto sobre la mesa, ya podemos sacar una conclusión clara. Pues después de todo lo comentado llegamos a una conclusión: el peligro de la IA no reside en la propia IA, sino en la falta de enfoque generada por el propio hombre y para qué quiere realmente la inteligencia artificial. Al final, la pregunta no es si la IA es peligrosa en sí misma, sino si nosotros, como sociedad, somos capaces de decidir para qué la queremos y con qué límites. Eso es lo que de verdad debería preocuparnos. ¿Estamos dispuestos a mantener unidades humanas no productivas y solo consumistas? ¿Es realmente esta la vida dorada del ser humano o realmente puede llegar a ser una jaula en la que en cualquier momento alguien decida eliminar lo no productivo?