En el aire

Audiopodcast · Episodio 11 · 39 min La burbuja de personalización

Reproducir

0:00 / 39:25 1x

Escucharlo también en YouTube

2018. El episodio anterior, sobre sesgos cognitivos, había llegado a casi 2.500 escuchas en tres o cuatro días, y esa respuesta nos dio un subidón para seguir estudiando y compartiendo. Abraham estaba leyendo Padre rico, padre pobre, el clásico para entender qué es un activo y qué un pasivo; yo seguía con los audiolibros de Flash Libros, de Euge Oller, y profundizando en la economía conductual de Richard Thaler y Daniel Kahneman. Y quisimos hablar de algo muy ligado a los sesgos que casi nadie conocía entonces: la burbuja en la que nos encierra internet.

Quién se sienta a la mesa

Copresentador

Abraham Jiménez

Copresentó Píldoras del Conocimiento en sus primeros episodios. Aquí explica cómo funciona la burbuja y qué poder da a las grandes plataformas.

Anfitrión

Fernando Alonso

Píldoras del Conocimiento. Ingeniero en inteligencia artificial, doctor en robótica, profesor universitario e investigador en robótica social. Conoce por dentro los algoritmos que deciden qué vemos.

Mi libro gratuito: Nacidos para Aprender

Ver Instagram

Píldoras del Conocimiento · Episodio 11Página 1 de 4

Resultados hechos a tu medida

La idea la popularizó en 2011 el activista Eli Pariser: los resultados que te muestra un buscador, una red social o una plataforma no son estándar, sino adaptados a ti por algoritmos, normalmente de inteligencia artificial, según tus intereses, tu ubicación, tu edad, tu historial de búsquedas, tus clics o tu dirección IP. Pariser contaba que Google tenía en cuenta decenas de señales incluso sin iniciar sesión. Si tú buscas «agua de coco» o el nombre de una universidad, tu vecino, o alguien al otro lado del planeta, puede ver resultados distintos; incluso tú puedes ver unos en el ordenador y otros en el móvil. Spotify adapta la música, Netflix las series y documentales, Google las búsquedas y la publicidad, Facebook su muro de noticias, Amazon sus recomendaciones.

¿El problema? Dos, dice Abraham. La privacidad. Y que acabamos dentro de una burbuja donde no vemos lo que queremos, sino lo que se nos quiere mostrar: vivimos en nuestra propia realidad, expuestos solo a nuestros intereses. Internet, que iba a ser una herramienta de crítica y de exposición a la diversidad, frente a unos medios tradicionales con su propia ideología, no ha resuelto el problema. Mark Zuckerberg lo dijo sin rodeos, según recoge Pariser: saber que una ardilla se muere frente a tu casa puede ser más relevante para tus intereses en ese momento que saber que muere gente en África. Hay que leerlo dos veces. Y según esa lógica se ordena lo que ves en tu muro.

Jeff Bezos lo planteaba de forma amable: quería devolver la venta de libros a los tiempos del librero de barrio que te conocía y te decía «sé que te gusta John Irving, y acaba de salir un autor que te va a encantar». Suena genial: casi como si te leyeran la mente. Pero, usado de cierta manera, puede volverse una herramienta contra la sociedad. No se trata de generar alarma, sino respeto, y de saber usar internet.

Por qué lo hacen: sigue los incentivos

Como dice Charlie Munger, para entender por qué pasa algo hay que mirar los incentivos, y a veces darle la vuelta al problema. Veo tres posibilidades. La amable: ofrecer un servicio mejor y más preciso, que en parte es verdad. La que más pesa al diseñar estos algoritmos: vender más, mostrar más anuncios, que hagas más clics. Y la más probable: las dos a la vez. Te dicen que el servicio es gratis o que recogen tus datos para mejorarlo, y es cierto, pero sobre todo les sirve para ganar más dinero por mil vías. Un amigo muy crítico con Google lo resume así: cuando compras a Apple, compras un producto; con Google, el producto eres tú.

Píldoras del Conocimiento · Episodio 11Página 2 de 4

Los sesgos que alimenta la burbuja

Todos lo hemos vivido: te interesas por las criptomonedas, buscas algo en Google y de pronto te aparecen anuncios de criptomonedas en Amazon, en Instagram, en todas partes. Tu vida entra en una visión de túnel y crees que la realidad entera va de aquello sobre lo que te informas. Aquí actúa el sesgo de confirmación: si solo te muestran lo que ya piensas, dejas de ser escéptico y de buscar otros puntos de vista. La ilusión de verdad: a fuerza de ver una y otra vez el mismo mensaje, aunque al principio desconfíes, acabas creyéndolo. Y el temor a quedarte fuera de la oportunidad, que te empuja a subirte al carro.

Hay otro, muy ligado a lo que leía de Thaler: los pequeños empujones o nudges, y el enorme poder de la opción por defecto. La primera opción que te muestran, el primer resultado o la primera canción sugerida, es la que elige la mayoría. Un ejemplo: en los países europeos donde la opción por defecto es ser donante de órganos, la tasa de donantes supera el 90 %; donde hay que apuntarse expresamente, se queda muy por debajo, en algunos casos por debajo del 30 %. Cómo y en qué orden te presentan la información condiciona lo que haces. Por eso todo el comercio electrónico pelea por salir arriba, pero quien decide el orden es la plataforma, y eso le da un poder enorme. Abraham llevaba el razonamiento al extremo: si se manipularan los primeros resultados durante un tiempo, dos lugares del mundo podrían vivir realidades opuestas.

La cámara de eco

A eso se le llama cámara de eco: un mensaje que se repite y se amplifica de forma sistemática, estrecha cada vez más el punto de vista, refuerza la ilusión de verdad y deja fuera las opiniones distintas. Abraham recordó la noche electoral de 2016 en Estados Unidos: muchos votantes de Hillary Clinton estaban tan convencidos de su victoria que no concebían otra opción, porque su burbuja solo les había mostrado esa realidad. Y estaba reciente el escándalo de Cambridge Analytica, que usó datos de millones de usuarios de Facebook para campañas políticas segmentadas, en la elección de Trump o en el referéndum del Brexit, aunque cuánto influyó de verdad en los resultados sigue debatiéndose. El poder de la burbuja se multiplica en decisiones binarias y con carga emocional.

Saber que una ardilla se muere frente a tu casa puede ser más relevante para tus intereses que saber que muere gente en África.Mark Zuckerberg, citado por Eli Pariser

Lo que nos quita: las serendipias

Otro efecto colateral: si el sesgo de confirmación manda, hay menos serendipias, esos momentos eureka en los que descubres algo que no buscabas y que hacen avanzar la ciencia y el conocimiento. Nuestro sistema de activación reticular ya se encarga de descartar lo que no estamos buscando; si además la pantalla solo nos ofrece lo que buscamos, aprendemos menos, vemos menos puntos de vista y somos menos creativos. Como dice Abraham, el problema es que no decidimos qué entra en la burbuja y, sobre todo, qué se queda fuera.

Píldoras del Conocimiento · Episodio 11Página 3 de 4

Tampoco queremos alarmar: hay estudios que concluyen que el efecto de estas burbujas es más leve de lo que sostiene Pariser, y quien lo defiende pone el ejemplo de Spotify, que te descubre grupos nuevos del género que te gusta y te ahorra tiempo. Pero conviene recordar a Nassim Taleb en Antifrágil: los sistemas que no se exponen a factores de estrés ni a fuentes diversas se vuelven frágiles. Si tu vida digital solo confirma lo que ya creías, tendrás menos conocimiento y menos capacidad para resolver problemas inesperados. Los jóvenes que crecen pensando que internet es un espacio libre y se informan sobre todo por redes sociales son los más expuestos.

Cómo pinchar la burbuja

Algunas medidas sencillas. Bloqueadores de anuncios, para que no te bombardeen con información sesgada. La ventana de incógnito, que reduce, aunque no elimina, la personalización: seguirán sabiendo desde qué país e IP te conectas, pero no quién eres. Navegadores como Tor, pensados para navegar de forma anónima. Leer los términos que aceptamos con tanta facilidad pulsando «continuar»: Google lleva dos décadas acumulando datos, y Google Maps sabe dónde estás cada día de la semana; te lo devuelve en forma de tráfico en tiempo real, pero también lo usa para otras cosas.

Y exponerte a propósito a fuentes distintas, contrastar y buscar a quien piensa diferente. Abraham proponía que las plataformas tuvieran un botón de «variedad» para salir de la burbuja; Google se escudaba en su «Voy a tener suerte», que te lleva a una página sin mostrarte la lista. Y, sobre todo, que la ley europea se cumpla: poder ver, rectificar y borrar los datos que tienen de nosotros con la misma facilidad con que nos registramos. Aunque, como dije, es poner puertas al campo: estas empresas viven de eso.

Detrás de muchas conductas que nos escandalizan hay incentivos: el influencer que sube fotos ligeras de ropa no es necesariamente un descarado, sino alguien que ha visto que así gana seguidores. Cada clic modifica tu burbuja. Lo dejamos con unas preguntas: ¿puede usarse esta personalización para moldear nuestras creencias o ideologías? ¿Podemos estar tranquilos de que no se usará en nuestra contra? ¿Debería el usuario poder elegir cómo se ordena lo que ve? Internet nos ha abierto un mundo de posibilidades; solo pedimos que se use de manera cívica y que seamos conscientes de que vivimos en casas de cristal.

Leído hasta el final

Píldoras del Conocimiento · Episodio 11Página 4 de 4