Interaccions #047
Mirar millor: autoria i transparència IA
Amb cada dia que passa, el paisatge de la creació digital es torna més complex, i la frontera entre allò humà i allò sintètic sembla que es va esborrant. Entrem ja en un terreny on és cada cop més difícil distingir entre creacions genuïnes i aquelles generades per (o amb) la intel·ligència artificial i, a més, el volum d’aquestes últimes comença a ser un problema. Per això, em sembla lògic i necessari que comencin a aparèixer eines, serveis i conceptes que busquin aportar una mica de llum i ens ajudin a separar el gra de la palla. Propostes que apostin per la transparència en la identificació de l’autoria i l’ús de la IA, i que contribueixin a recuperar una confiança que, en aquest context, sembla que s’està diluint.
Una de les que m’ha semblat especialment destacable és Badge AI, iniciativa independent inspirada en les llicències Creative Commons, pensada perquè els creadors puguin identificar i comunicar de manera voluntària el grau d’ús d’IA en les seves obres, siguin visuals, sonores o textuals. Actualment, funciona de manera manual: cal respondre un breu qüestionari sobre el procés creatiu i, a partir d’aquí, s’assigna una etiqueta segons una escala de 0 (creació 100% humana) a 4 (100% generada per IA), per adjuntar a cada obra.
La visió de futur que comuniquen és automatitzar aquest sistema i integrar-lo en diferents aplicacions perquè l’etiquetatge sigui instantani, persistent i coherent, mitjançant metadades incrustades. Però quan arribin a aquest punt, és probable que es creuin amb el consorci C2PA (Coalition for Content Provenance and Authenticity), tot un transatlàntic, impulsat per Adobe, Microsoft, la BBC, Intel, OpenAI, Google, Meta, Sony i altres grans noms del sector, com a fusió d’algunes iniciatives prèvies en aquest sentit. El seu objectiu és pràcticament el mateix: certificar l’autoria i el procés de creació de qualsevol arxiu digital. La seva aplicació pràctica és Content Credentials, ja integrada a l’ecosistema del monopolístic Creative Cloud, i pensada per operar automàticament i de manera invisible en els fluxos de treball professionals.
Per dimensió, força i influència, és evident que C2PA seria ara mateix el cavall guanyador en aquest terreny. Amb el temps, estic convençut que veurem moltes més iniciatives similars o tangencials, amb enfocaments i matisos diversos. Tot i així, no puc evitar una certa incomoditat davant del fet que les mateixes empreses que contribueixen a generar el problema siguin les que ara ofereixen les solucions.
El que sembla clar és que aquesta tendència cap a la verificació i la transparència anirà en augment, sobretot en un context on l’autoria, la procedència i els processos es difuminen fàcilment. No sé si veurem aquest tipus d’etiquetatge en museus o cinemes, però segurament acabarem trobant-lo com a estàndar en plataformes, publicacions o entorns digitals, en un futur proper.
Tot això no resol altres dels grans reptes i problemàtiques actuals, com els relacionats amb l’entrenament dels models d’IA, drets d’autor, etc., però apunta cap a una cultura de la responsabilitat que trobo rellevant. Saber com s’ha fet una obra, o qui l’ha fet realment, potser no n’altera la qualitat, però sí la nostra manera d’interpretar-la i valorar-la. I, ara mateix, ens ajudaria a mirar millor.
Altres temes que m’han interessat aquesta setmana
Cada dia dissenyant tenint en compte paràmetres estètics, a més de funcionals i, de tant en tant, trobo articles que defensen que els webs lletjos funcionen millor. No és una regla general, lògicament, però diuen que l’autenticitat percebuda, la nostàlgia, la familiaritat o fins i tot l’efecte sorpresa poden generar més confiança i connexió amb l’usuari. Interessant.
Segons Jay Hoffmann, l’any 1995 va ser un punt d’inflexió decisiu per a Internet: un increment exponencial en el número de servidors, el llençament de Windows 95 i el famós memoràndum The Internet Tidal Wave de Bill Gates van fer passar la xarxa d’una curiositat acadèmica a una força cultural global. També va ser l’any en que va arribar a casa el meu primer PC, un Pentium 100 que va costar una pasta i del que tinc un gran record, però això ja és un altre història.
La Nave Nodriza publica un manifest en defensa del contingut digital conscient i amb intenció. En un entorn saturat de missatges efímers i virals, reivindiquen la importància de crear des de l’autenticitat, l’ètica i la profunditat. Tot i estar vinculat a un dels cursos que ofereixen, val la pena fer-hi una ullada.
SnapGrid és una aplicació open-source per recollir, organitzar i analitzar captures de pantalla. Utilitza IA per detectar automàticament components i patrons de disseny, diuen. Fins ara feia servir Eagle per aquestes històries (i va prou bé), tot i que aquesta capa IA pot ser útil. Hauré de provar.
M’ha semblat destacable el plantejament de la UOC d’oferir cursos de perfil digital a les persones que viuen al món rural. Ho va compartir l’Alberto a Digitals.cat. No tot és Barsalona i rodalies.
El camarada Ganyet m’envia aquest article sobre una edició de 1984 de George Orwell, dissenyada per David Pearson, on el títol i l’autor queden ocults sota una capa negra que, amb el temps i l’ús, s’erosiona i fa que el text esdevingui visible. Una metàfora visual molt ben trobada sobre la censura de què parla l’obra. Intel·ligent i precisa.
Gràcies pel teu temps. La setmana que ve, més i (espero que) millor. Per qualsevol cosa, pots deixar un comentari o trobar-me a Bluesky o LinkedIn. Si vols una mica de música, et deixo aquí la meva mixtape, actualitzada mensualment. Fins ara!
— Sergi