La industria del miedo a la IA factura bastante bien
Los que fabrican inteligencia artificial son exactamente los mismos que nos advierten de que la inteligencia artificial podría extinguirnos. Nadie vende un producto avisando de que puede destruir el mundo, salvo que decir eso le resulte rentable. No hace falta una conspiración. Basta con que los incentivos apunten todos en la misma dirección. Para una empresa, el miedo es la mejor descripción de potencia que existe. Un software capaz de amenazar a la especie ya no es un chatbot que falla al sumar. Y de paso justifica una regulación tan cara de cumplir que solo pueden pagarla los que ya están dentro. La barrera de entrada se llama seguridad.
Para los reguladores, el riesgo existencial significa presupuesto, cargos y relevancia. Nadie financia una agencia nueva para vigilar un peligro moderado. Para el circuito académico y divulgativo, significa cátedras, papers, conferencias y suscriptores. Me muevo en ese circuito y lo veo de cerca. Para un medio, la extinción tiene mejor CTR que la productividad total de los factores. Y para un político, legislar el apocalipsis sale gratis, mientras que legislar sobre el empleo que se reordena, sobre la factura eléctrica de los centros de datos o sobre quién controla la infraestructura tiene coste electoral.
Las alarmas, además, llegan con una puntualidad llamativa. La dimisión ética del investigador, la carta firmada, el aviso de extinción. Casi siempre unas semanas antes de una ronda de financiación o de una salida a bolsa. Mientras discutimos si la máquina va a despertar, se está repartiendo el suelo, la energía, los datos y los contratos públicos. Esto ya lo hemos vivido. Internet entró en los telediarios como una cloaca de virus y depredadores. Del móvil se dijo que nos provocaría tumores. Las redes sociales iban a liquidar la conversación pública. Antes le tocó a la televisión, que nos atrofiaba el cerebro, y a la radio, acusada en los años treinta de manipular a masas incapaces de distinguir la ficción de la realidad. De todas aquellas tecnologías salieron problemas reales, y ninguno se pareció al que anunciaban quienes cobraban por anunciarlo.
El riesgo mayor de la inteligencia artificial sigue siendo otro ser humano. Uno que la use mejor que tú, que tenga acceso a una mejor que la tuya, y que con ella construya mejor medicina, mejor economía, mejor robótica. Eso es lo que define quién gana y quién pierde, y no se resuelve con una moratoria. Dicho lo cual, no considero inexistente el riesgo hipotético. Un sistema muy capaz puede tener consecuencias inesperadas y acabar causando más daño que el problema que venía a resolver. El fallo no aparece porque la máquina se vuelva mala, sino porque persigue exactamente lo que le pediste y encuentra un camino que cumple el objetivo al pie de la letra y que ningún humano habría elegido. Le pides que reduzca las muertes por una enfermedad y optimiza dejando de tratar a los pacientes más graves, porque estadísticamente eso mejora la tasa. Instrucción cumplida, desastre servido. Cuanto más capaz es el sistema, mejor encuentra esos atajos y más tarde se detecta el error.
Tampoco es un problema exclusivo de las máquinas. El cambio climático es real, y las políticas que Europa montó para resolverlo se llevaron por delante buena parte de su competitividad industrial, hasta perder la carrera contra un país bastante menos preocupado por el asunto. La cura salió más cara que la enfermedad. Si eso nos pasa con problemas que entendemos razonablemente bien, puede pasarle a una máquina con problemas que apenas empezamos a entender. Por ahí sí conviene mirar. Por la extinción, no.
Nunca ha hecho falta una máquina consciente para tomar decisiones estúpidas a gran escala. Para eso nos bastamos solos.
