Interaccions #051

Censura algorítmica i novaparla

“1984”, de Olivier Bonhomme

Sense considerar-me proper ni a l’etnologia ni a la lingüística, ni tan sols un expert en res (ni molt menys), sí que sovint m’agrada observar determinats comportaments en aquests espais que em semblen reveladors de tendències o d’evolucions futures. Sempre he tingut un interès especial pel llenguatge i per com funciona en aquestes contrades digitals.

Darrerament, observo com s’estén l’algospeak, una mutació que no sembla deure’s a necessitats tècniques, a la creativitat col·lectiva o a expressions comunitàries espontànies, sinó que és conseqüència directa de les polítiques de les grans plataformes on vivim la nostra vida virtual. En vaig ser plenament conscient quan vaig començar a veure, cada cop amb més freqüència, el terme unalive (“desviure”).

L’algospeak (portmanteu força evident entre “algo”, d’algoritme, i “speak”) defineix aquest nou llenguatge paral·lel i codificat, ideat per esquivar la censura automàtica de les plataformes. Paraules disfressades, modificades, silenciades parcialment, bleepades, combinades, substituïdes per emojis resignificats o directament inventades per esquivar les restriccions que TikTok, Twitch, Instagram o YouTube imposen a termes considerats sensibles o problemàtics (violència, terrorisme, sexe, drogues, temes LGBTQ+, etc.). Sembla que dir les coses pel seu nom, avui, pot fer-te desaparèixer del feed, demà.

Aquest concepte recorda, en certa manera, la novaparla orwelliana, en el sentit que ambdues suposen una reducció del llenguatge condicionada per un sistema superior. En aquest cas, però, el sistema no és estatal sinó purament comercial.

És difícil saber amb certesa què obtenen exactament les plataformes en limitar la visibilitat d’aquests continguts, ni tampoc segons quins criteris exactes ho fan. Tot i que presenten unes normes d’ús aparentment clares, sovint el funcionament real d’aquests sistemes condiciona la presència dels missatges de manera opaca. Aquesta censura per defecte (molts cops arbitrària i gairebé sempre sense observar el context) genera situacions paradoxals: per exemple, un contingut pensat per prevenir el suïcidi o donar suport emocional a persones amb problemes de salut mental pot quedar penalitzat simplement pel fet de mencionar la paraula “suïcidi”, invisibilitzant així la seva funció informativa, educativa o preventiva.

A més, no es tracta d’un sistema estàtic: les plataformes aprenen ràpid i van modificant els filtres constantment. L’algoritme actualitza contínuament les seves restriccions per evitar aquest “feta la llei, feta la trampa”. Així, el llenguatge esdevé una mena de joc infinit, amb normes que canvien amb celeritat i ens obliguen a adaptar-nos a una evolució permanent, amb un argot fet de codis, jocs de paraules, abreviatures, emojis que no signifiquen el que semblen, símbols i eufemismes que cal desxifrar i aprendre, tant per consumir com per crear contingut.

Tot i això, tinc clar que sempre serà preferible aquesta eina automatitzada que no pas la moderació humana, vist com ha anat això en el passat.¹

I ara em sorgeixen dues preguntes. La primera, més estructural: si tenim en compte que la cognició humana depèn del llenguatge, quin impacte pot tenir (i tindrà) l’algospeak en la manera com pensem, compartim i entenem la nostra realitat en el futur? I la segona, més pràctica i directa: què passarà amb aquesta edició d’Interaccions i l’algoritme de Substack, havent fet servir en els paràgrafs anteriors unes quantes paraules clau? Em caurà una mica de shadow banning? Veurem.

---

---

Altres temes que m’han interessat aquesta setmana

1. The Velvet Sundown és una nova banda de psych rock que acumula més de 750k oients mensuals a Spotify amb només tres o quatre cançons i és 100% generada per IA. Mentres tant, llegeixo que aquest mes tanca Discos Revolver. Semblo una mica en Ted Gioia, amb el rollo pessimista…

2. Llegeixo que en els darrers mesos, nombroses agències de disseny estàn fent rebranding i reposicionant-se. En un context d’excés d’oferta i identitats que sonen totes igual i amb l’amenaça de la IA, toca afinar qui ets, què ofereixes i per què hauries de destacar, suposo.

3. Amb l’entrada en vigor de l’European Accessibility Act i l’envelliment de la població, l’accessibilitat ja no és opcional: és essencial, urgent i una oportunitat per als professionals del disseny. Design Beyond Barriers és una guia clara i pràctica per dissenyar interfícies digitals accessibles i inclusives.

4. M’encanta i et recomano el canal de TikTok de Matthew Olivier, artista visual, on analitza i comenta obres i autors de la història de l'Art en poc més de minut i mig, fent-te reflexionar sobre les seves motivacions, significat, història o context.

5. Creative Commons presenta CC Signals, un nou marc legal i tècnic pensat per a l’era de la IA. Permetrà que els creadors i responsables de datasets indiquin com volen que les seves dades siguin (o no) reutilitzades per entrenar models. Una proposta interessant per a construir un ecosistema d’IA més ètic i obert.

6. Força interessant aquest mapa de Reddit, per a navegar-hi de forma alternativa. El rabbit hole màxim, al tanto.

---

Gràcies pel teu temps. La setmana que ve, més i (espero que) millor. Per qualsevol cosa, pots deixar un comentari o trobar-me a Bluesky o LinkedIn. Si vols una mica de música, et deixo aquí la meva mixtape, actualitzada mensualment. Fins ara!

— Sergi

---

1. Hi ha un documental alemany que tinc pendent de fa un temps sobre això, “The Cleaners”. Sembla molt interessant però no sé si tinc ganes de buscar-lo, llegint les ressenyes.