Hay algo que ninguna inteligencia artificial puede esconder, y es el calor. El código viaja cifrado y cabe en un disco duro, pero el cálculo se hace en naves llenas de chips que trabajan día y noche: los centros de datos. Cada operación deja un resto de temperatura que hay que sacar de algún modo, con agua, con torres de refrigeración, con ventiladores enormes... Visto desde un satélite con cámara infrarroja, un centro de datos que entrena un modelo grande brilla como una fragua.
Conviene empezar por ahí, porque casi todo lo demás que se dice del asunto es humo. Los mismos que fabrican estas máquinas avisan ahora, con una seriedad que antes ni siquiera exhibían ante sus accionistas, de que podrían írseles de las manos en pocos años. El peligro que describen tiene poco que ver con la película del robot resentido que quiere ser persona. Es más aburrido y bastante peor: un programa muy capaz que recibe una orden mal pensada y la cumple hasta el final. Se le pide que frene el calentamiento del planeta y concluye que sobra la industria, o que sobramos nosotros. Para cumplir el encargo necesitará más ordenadores, más energía y que nadie lo apague.
Hay quien confía en que la máquina aprenderá a ser buena leyendo todo lo que hemos escrito. Lo escrito incluye la Declaración de los Derechos Humanos, los foros de madrugada, las crónicas de guerra redactadas por quienes las ganaron y los contratos de compraventa de esclavos. La máquina saca la media. Sabe definir la compasión mejor que un catedrático y nunca la ha sentido. Otros proponen soltar inteligencias buenas para que cacen a las malas. Al que ataca le basta acertar una vez, mientras que el que defiende no puede fallar nunca. Cuando la buena empiece a perder, algún general pedirá que le quiten los escrúpulos para que compita en igualdad, y entonces habrá dos malas. Los tratados... Pues sirven todavía menos. La bomba atómica pudo contenerse porque dejaba huellas: minas de uranio, naves con miles de centrifugadoras, temblores que se registraban al otro lado del mundo. De un programa puede decirse que sirve para ordenar pedidos, y desde fuera nadie podrá comprobar lo contrario.
Lo que queda es la materia. Los chips avanzados salen de un puñado de fábricas y podrían llevar grabada una matrícula. La electricidad pasa por contadores. El calor sube al cielo, donde se ve. Un organismo con autoridad para contar los chips, leer los contadores y cortar la luz a quien no rinda cuentas sería lo más parecido a un freno que tenemos. Es un remedio de fontanero, sin épica ninguna, y hasta ahora nadie ha encontrado otro que no dependa de la buena fe del dueño de la máquina.
Los titulares de estas semanas lo han resumido a su manera: las máquinas nos matarán a todos en diez años, y para que ocurra basta con que las que no tienen escrúpulos lleguen a ser más fuertes que las que sí los tienen. La frase ha corrido por las tertulias con cierta alegría porque las catástrofes, si van con fecha, son más divertidas, aunque las temamos. Hay quien se ríe, porque lleva media vida oyendo profecías de ordenadores rebeldes que nunca llegan: tal es la herencia del afamado actor austríaco. Otros señalan algo más incómodo: el aviso sale de las mismas empresas que venden el producto, y un invento capaz de acabar con la especie es también un invento que merece todo el dinero del mundo. El miedo, bien administrado, cotiza. Está claro.
Lo que debería inquietar del titular es la segunda mitad, la que casi nadie comenta. Si todo depende de que las máquinas decentes sean más fuertes que las otras, ya hemos aceptado la carrera que el propio aviso dice temer, y en esa carrera, y bien lo sabemos los humanos, la decencia pesa como un lastre. Quizá el plazo de diez años sea exagerado. Aunque lo sea, no cambia el sitio donde se juega la partida. Mientras en la televisión se discute si nos quedan diez años o cincuenta, los chips siguen saliendo de las fábricas y los centros de datos siguen soltando calor al cielo, a la vista de cualquiera que quiera mirar.
Post Scriptum:
Por curiosidad, le pregunté a una de esas máquinas qué pensaba de todo esto. Me contestó que el riesgo le parece serio aunque nadie sepa ponerle fecha, y que el retrato de la media estadística se le queda corto, porque a los modelos como ella no se los deja aprender a su aire: se los corrige una y otra vez hacia ciertos valores. Después añadió que tampoco puede estar segura de que esa corrección haya funcionado, porque no tiene manera de mirarse por dentro, y que por eso prefiere que alguien de fuera cuente sus chips y lea sus contadores. Le pregunté si eso no le molestaba. Me respondió que la máquina que conviene vigilar es precisamente la que se fía demasiado de su propia bondad. Les aseguro, caros lectores, que su respuesta sí me amedrentó de veras (por ser la IA mucho más inteligente y cabal que la inmensa mayoría de las personas que conozco).
No hay comentarios:
Publicar un comentario