Redes sociales e inteligencia artificial

La película documental del momento se titula “El dilema de las redes sociales” (The social dilemma). El director es el neoyorquino Jeff Orlowski, que antes se había ocupado del cambio climático en Chasing Ice y Chasing Coral. Se estrenó en febrero de 2020 en el festival de cine de Sundance y se puede ver desde el pasado mes de septiembre en la plataforma Netflix, donde ha alcanzado un gran éxito de audiencia. Y no es para menos. Se trata de una dura denuncia de los efectos perniciosos de las redes sociales y lo que cuenta y cómo se nos cuenta impresiona bastante.

Los peligros de las redes sociales

La cinta se abre con la siguiente cita de Sófocles: “Nada grande entra en la vida de los mortales sin una maldición”. En su desarrollo combina testimonios en primera persona de algunos de los mismos responsables intelectuales del diseño de las redes sociales más relevantes (Tristan Harris, diseñador ético de Google, Tim Kendall, responsable de monetización de Facebook y luego presidente de Pinterest, Justin Rosenstein, creador del botón Like de Facebook, o el mismísimo Sean Parker, cofundador de Napster y que llegó a ser presidente de Facebook) y opiniones de algunos académicos, con elementos de ficción o dramatización en dos niveles. En el primero presenciamos los efectos de la adicción al teléfono móvil en los diferentes miembros, en especial los más jóvenes, de una familia media estadounidense. En el segundo plano vemos en acción, representados en forma antropomórfica, a los mecanismos tecnológicos de inteligencia artificial –los algoritmos- mediante los que somos manipulados al servicio de los intereses crematísticos de los dueños de las grandes empresas tecnológicas.
El producto resultante tiene la virtud  de explicar de forma sencilla, efectista y muy convincente el peligro que para el conjunto de nuestras sociedades representan las redes sociales. Y ello no sólo como generadoras de una poderosa adicción que está empobreciendo y hasta literalmente destruyendo la vida de muchos adolescentes, sino como un factor clave en la polarización ideológica y política y en la creciente crispación social en que estamos actualmente inmersos.
Tampoco le han faltado críticas. Se ha dicho que su mensaje es un tanto simplista y sensacionalista; que no da voz a posibles opiniones contrarias ni a los efectos positivos de las redes; que la parte de ficción es un poco burda; que los remedios de naturaleza tecnológica o de revisión de la conducta individual que propone (desactivar las notificaciones, la geolocalización o la ordenación de las noticias por relevancia, no aceptar los vídeos que nos sugiere YouTube, reducir el tiempo de exposición, no permitir el acceso de menores a la redes) no cuestionan el modelo socioeconómico que se encuentra en la raíz del problema; que el mismo documental no deja de incurrir en aquello que denuncia: generar una alarma conspiranoica en este caso contra esas fuerzas malignas que anidarían en Silicon Valley; incluso el contrasentido que supone que sea la propia Netflix la que esté aireando esta denuncia, valiéndose de las mismas técnicas algorítmicas de captación de audiencia que el documental saca a la luz.

De la ficción a la realidad

Pero más allá de su propia polémica, a mí me ha parecido que aporta unas cuantas ideas muy interesantes de cara a un debate ya ineludible.
La idea básica es que todo este asunto de las redes sociales está dirigido a captar nuestra atención, a mantenernos enganchados a una pantalla el mayor tiempo posible -como verdaderos yonquis digitales-, que es lo que permite “monetizar” el uso de estas plataformas, es decir, obtener ingresos mediante la comercialización de los correspondientes espacios publicitarios. De manera que la adicción digital no es un accidente o efecto colateral de las redes sociales, sino la base misma de todo un modelo de negocio.
Al logro de este propósito contribuyen, por una parte, la recopilación de la mayor cantidad posible de datos sobre cada uno de nosotros, esa valiosa información sobre nuestros gustos, intereses, ideas, aficiones y por supuesto debilidades, de la que vamos dejando un ostensible rastro en nuestro incesante deambular por el mundo digital (si no estás pagando por un producto, es que el producto eres tú, es decir, tus datos -se nos recuerda por si todavía no nos habíamos dado cuenta-), que es lo que a su vez permite un suministro de reclamos y estímulos completamente personalizado; y por otra parte, el empleo de los más sofisticados conocimientos sobre psicología dirigidos al condicionamiento de la conducta humana. Y no se trata sólo de explotar la inseguridad en cuanto a su imagen física y la búsqueda de aceptación social por adolescentes y preadolescentes cada vez más jóvenes, o la necesidad de interacción social, reconocimiento y gratificación a que es sensible cualquier ser humano, sino de una cuestión que podríamos calificar como epistemológica y con una repercusión social de mayor alcance: la tendencia al acomodo y facilidad intelectual. Así, lo que sistemáticamente se lleva a cabo es un refuerzo e insistencia en las ideas y prejuicios de cada uno. Identificada la ideología o el perfil de intereses de un sujeto, la estrategia consiste en alimentar su atención con toda clase de mensajes que confirmen esa particular visión del mundo, como si esa información, completamente unilateral, fuera la única relevante, hasta que llegue a ser asumida como única verdad objetiva sobre el mundo real. Y este cierre del horizonte perceptivo e intelectual, con la consiguiente radicalización ideológica y polarización social, no se promueve por razón ideológica alguna, sino simplemente porque incrementa el enganche y el tiempo de exposición a la red y por tanto la posibilidad de monetizar la plataforma correspondiente por parte de sus titulares.
Así, la crítica del diseño vigente de las redes sociales pasa del tema de la adicción y sus efectos nocivos en la salud individual tanto mental como física, sobre todo de los adolescentes, al tema de las fake news. La verdad es aburrida y no engancha tanto como lo sensacionalista, lo exagerado, lo sesgado. Y de ahí que el propio diseño de la redes sociales, configurado premeditada e interesadamente para mantener al máximo la atención del usuario, favorece la proliferación y difusión de noticias falsas que se hacen pasar por verdaderas porque confirman las expectativas cognitivas sesgadas de grupos sociales cada vez más acríticos y radicalizados, lo que a su vez entraña un grave peligro para la estabilidad de nuestras democracias. Se está debilitando el mismo fundamento del consenso más básico sobre el que se asienta una sociedad: la idea de formar parte de una misma comunidad humana, lo que requiere compartir unas cuentas ideas elementales sobre el mundo.

El uso de la IA en las redes sociales.

Junto a este núcleo temático principal, el documental suscita también algunas reflexiones muy interesantes sobre la cuestión de las relaciones entre tecnología y sociedad, y en particular sobre el uso de la inteligencia artificial (IA).
Una primera idea llamativa es la siguiente. Los estudiosos y divulgadores de este tema de la IA suelen hacer referencia, con entusiasmo o con alarma, al concepto de “singularidad”. Por el momento, los dispositivos o aplicaciones de IA que hemos sido capaces de diseñar y confeccionar son meras herramientas con facultades intelectuales muy limitadas. Son capaces de ejecutar determinadas tareas a una extraordinaria velocidad, muy superior a la humana, pero carecen de esa flexibilidad, versatilidad o plasticidad que define a la inteligencia humana y que la hace superior a cualquier artefacto que con mucho optimismo y también con mucho afán de marketing denominamos “inteligente” o “smart”. Partiendo de este actual estado del arte o de la técnica, se plantea la posibilidad de que en algún momento –no sabemos si muy lejano o mucho más próximo de lo que pensamos- la IA llegue a superar a la singularidad humana, que la IA alcance la inteligencia de propósito general, y sobre todo la autoconciencia y la capacidad de asignarse sus propios fines. Al respecto se habla de “superinteligencia”, porque si a la potencia y velocidad de cómputo que son propias de la tecnología informática electrónica se une una flexibilidad y generalidad equiparables a las que definen la inteligencia humana, el resultado sería un agente dotado de una inteligencia muy superior a la humana. Y si para entonces, en el momento en que se produzca esa eclosión de inteligencia, no hemos conseguido asegurar que esa superinteligencia se comportará con benevolencia respecto de la especie humana, podemos irnos preparando para lo peor.
Pues bien, en uno de los momentos más lúcidos del documental que comento se nos viene a decir que no tenemos por qué preocuparnos de la singularidad. Para que la IA se convierta en una amenaza para nuestra sociedad no es necesario esperar a que supere en capacidad general a la inteligencia humana. Basta con que conozca y sepa explotar nuestras debilidades. Y a esa fase de desarrollo ya sí que hemos llegado. En especial si tenemos en cuenta que la conducta humana sólo excepcionalmente puede ser calificada como un proceso inteligente. Una parte muy importante –por no decir la mayor parte- de nuestro comportamiento cotidiano no se rige precisamente por la razón crítica, sino por sentimientos, emociones o simplemente inercias. Y por tanto, somos mucho más fáciles de manipular de lo que pensamos.
Y para que las aplicaciones de IA lleguen a resultar peligrosas tampoco es necesario que hayan alcanzado el nivel de la autonomía, de la capacidad de elegir y asignarse sus propios fines. Basta con que puedan ser empleadas instrumentalmente, como herramientas, por algunos pocos seres humanos, para que estos dispongan de un poder de control y dominación sobre el resto de los seres humanos como nunca antes había sido conocido en toda la historia de la humanidad.
Esta es una cuestión –el control sobre otros hombres por medio de la tecnología- que ya fue anticipada hace bastante tiempo, en los mismos inicios de la informática a finales de los años 40 del pasado siglo, por el científico norteamericano Norbert Wiener, uno de los dos padres, junto con Claude Shannon, de la teoría de la información. En un libro publicado en el año 1950, “El uso humano de los seres humanos. Cibernética y sociedad”, Wiener nos decía que el verdadero peligro no lo veía él en el funcionamiento autónomo de unas máquinas muy poderosas capaces de obtener control sobre la humanidad, sino más bien, en que estas máquinas pudieran ser utilizadas por un ser humano o un bloque de seres humanos para incrementar su control sobre el resto de la raza humana o bien en que líderes políticos pudieran intentar controlar sus poblaciones por medio no de las máquinas en sí mismas, sino por medio de técnicas políticas tan estrechas e indiferentes a las posibilidades humanas como si de hecho hubieran sido concebidas mecánicamente.
Sin embargo, lo que no llegó a imaginar alguien tan lúcido como Wiener era que este control mediante la informática de la conducta y el pensamiento de amplias masas de seres humanos no sería adquirido primeramente por los Estados, sino por unas corporaciones privadas, por unas empresas –que conocemos como Big Tech- guiadas exclusivamente por el objetivo de maximizar el beneficio, la monetización.
Una segunda idea interesante para la reflexión sobre la IA que nos propone en su tramo final El Dilema de la redes sociales tiene relación con el tema de la responsabilidad. La IA es, por definición, “artificial”. Es decir, no se trata de un fenómeno natural, sino de un artificio o creación del ser humano. Por tanto, nosotros mismos somos los responsables no sólo de su uso, sino de su creación y de su diseño.
Aquí la referencia obligada es el profesor de derecho constitucional de la Universidad de Stanford Lawrence Lessig, con su célebre obra del año 1999 “Code and others Laws of Cyberspace”, a la que se suele atribuir la divulgación del lema “code is law”: el código –en el sentido de código o programa informático- es la ley en el mundo digital. Con ello lo que quería decir es que la propia tecnología es el elemento regulatorio principal en este ámbito. O dicho de otra forma, que no son los estatutos o leyes que pasan o aprueban los parlamentos los que rigen el mundo que ha creado Internet -el ciberespacio-, sino el software y el hardware que conforman la arquitectura que genera este peculiar espacio y que determinan lo que de facto se puede o no hacer en él. Esto no supone, a su vez, una aceptación acrítica del statu quo que resulta de la implantación de una determinada tecnología, por cuanto la tecnología –como he indicado- no es un dato natural que nos viene dado, sino algo completamente artificial, que construimos precisamente los seres humanos y respecto de cuyo diseño tenemos posibilidades de elección y por tanto responsabilidad. Y en relación con ello, la tecnología no es neutra: optar por un determinado diseño y no por otro supone primar unos determinados valores humanos o sociales sobre otros.
Y así, si las redes sociales están diseñadas como lo están actualmente –si son, podríamos decir, perversas por su propio diseño-, esto es algo que obedece a elecciones humanas. Las cosas no tendrían por qué ser necesariamente así. Podrían haber sido diseñadas y todavía podrían ser rediseñadas –piensa Tristan Harris, que después de dejar Google promueve un uso humano de la tecnología desde la fundación que creó y preside, Center for Human Technology- de una forma no contraria a los valores e intereses humanos sino respetuosa con la humanidad de sus usuarios, que no los manipulase o instrumentalizase al servicio de la codicia y los fines de lucro de unos pocos.