Dos debates sobre la inteligencia artificial

La posición dominante de Silicon Valley y la propagación de los algoritmos a todos los sectores industriales plantean cuestiones de fondo

Como dijo el antiguo jefe de datos de Facebook, Jeff Hammerbacher: “Las mejores mentes de mi generación se dedican a pensar cómo hacer que la gente pinche anuncios. Es un asco”. La frase puede ser producto de un berrinche, pero también describe con exactitud una tendencia agobiante del desarrollo de la inteligencia artificial (IA). Quienes mandan aquí son las mismas tecnológicas de Silicon Valley que controlan todo lo demás: las omnipresentes GAFA (Google, Amazon, Facebook y Apple) junto a las no menos ubicuas IBM y Microsoft están monopolizando el campo de la inteligencia artificial, y decidiendo casi por entero la dirección de las investigaciones en el sector. Lee en Materia cómo estos gigantes tecnológicos contratan a los mejores cerebros de los departamentos universitarios, compran las startups en cuanto asoman la cabeza con una idea nueva y dirigen el desarrollo del campo, como es lógico, a la satisfacción de sus intereses comerciales. Sea un asco o no, es lo que hay.

Un segundo debate, causado también por el flujo masivo de científicos de todas las áreas al desarrollo industrial de la inteligencia artificial, es el uso solvente de estas tecnologías. Aunque los gigantes tecnológicos no destacan precisamente por su transparencia, algunos de sus expertos comparten de vez en cuando con la comunidad científica un destilado de su arte. Es el caso de Patrick Riley, científico de la computación de Google, que aboga en Nature por la adopción de unos estándares internacionales en la investigación en IA y la manera adecuada de informar sobre ella.

Aquí no estamos hablando de pinchar anuncios ni de ninguna otra cosa que dé asco, sino de una tecnología que empieza a resultar muy valiosa en el diseño de fármacos y otras moléculas, en la mejora del diagnóstico médico y en aspectos tan básicos de la ciencia como el descubrimiento de nuevas partículas elementales. Un problema central es la “caja negra” de los algoritmos. Hemos conocido en estos años unos sistemas de aprendizaje automático (machine learning) verdaderamente asombrosos, como AlphaGo Zero, que no solo aprendió a jugar al Go por sí solo, sino que descubrió unas estrategias abstractas de alto nivel que se les habían escapado a los grandes maestros durante siglos. La paradoja es que no sabemos bien cómo funcionan estos algoritmos, que se comportan en este sentido como cajas opacas a nuestro entendimiento.

“Muchos de los algoritmos son tan complicados”, dice Riley, “que es imposible inspeccionar todos los parámetros o razonar sobre la forma exacta en que los inputs se han manipulado”. Este científico de Google prevé que, a medida que estos algoritmos se extienden a cada vez más sectores científicos e industriales, aumentarán las conclusiones erróneas y las interpretaciones sesgadas, y buena parte de los esfuerzos de investigación acabarán en un callejón sin salida.

He aquí dos grandes debates sobre la inteligencia artificial que recorren el mundo. Es importante que te sumerjas en ellos.

Fuente: elpais.com