Episodi 51
Pixar fora de test, per WhatsApp
· 00h 32min
Les males pràctiques de la comunicació asíncrona han desembocat en un infern d’atenció permanent i ens han forçat a utilitzar eines meravelloses com Slack, WhatsApp, Loom, o Notion, de manera completament incorrecta i perniciosa.
A finals del segle XIV, Alexander Graham Bell fou el primer a establir una comunicació clara de veu bidireccional entre ell i un tal Watson. Les seves paraules foren: "Mr. Watson, come here, I want to see you."
Per tots aquells enamorats de les notes de veu, us recordem que també és possible dictar els vostres pensaments desordenats al dispositiu. De manera màgica, aquest, mutarà les vostres paraules endimoniades en una cadena de text intel·ligible — estalviant així una mica de dolor a la humanitat.
Per fomentar l’escarni de la raça quan arribin els marcians — donant-los així encara més raons per exterminar d’una vegada la nostra existència — al carrer Muntaner hem instal·lat una senyalització especial per tots aquells incapaços de caminar pel carrer amb el cap alçat.
La Premise: Experiments Sem Consentiment
Corporacions com Facebook, Google, o Apple routinàriament:
- Testetjan noves funcionalitats a subsets d'usuaris
- No sempre avisen als usuaris
- Recopilen dades sobre comportament
- Iteran fins a tenir un producte "perfecte"
L'episodi critica aquesta pràctica com éticamente problemàtica.
Exemplos Historics
- Facebook's Emotional Contagion Study (2014):
- Facebook va experimentar manipulant l'algorisme d'alguns usuaris
- Va mostrar contingut més positiu o negatiu intencionalment
- Els usuaris no sabien que eren part d'un estudi
- L'estudi va descobrir que el contingut negatiu disminueix l'ànimo
- A/B Testing Pervasive:
- Gairebé totes les plataformes fan A/B testing constant
- Alguns usuaris veuran una versió de la UI, altres una altra
- Això es fa sense explícit consentiment
Els Problemes Étics
- Falta de Consentiment Informat: Els usuaris no saben que són test subjects
- Biaix Psicologic: Portar usuaris sense saber-ho pot danyal la seva salut mental o comportament
- Asimetria de Poder: Les corporacions decideixin què testetjar; els usuaris no tenem veu
- Data Recol·leccion: Els tests impliquen recol·leccion de dades
Comparació amb Recerca Humana Proper
En la recerca acadèmica i mèdica:
- Hi ha comitès d'ètica (IRB) que aproven estudis
- Es requereix consentiment informat dels participants
- Es docimente els riscos
- Hi ha supervisions
Però en les corporacions tech:
- No hi ha comitès equivalents (alguns diuen que sí, pero són interns)
- El "consentiment" és enterrat en ToS
- No hi ha supervisions externes
Els Arguments de les Corporacions
- El Consentiment està als ToS: Tecniquement verdader, pero molts usuaris no llegixen ToS
- L'Experiència General Millora: Els tests resulten en millors productes
- Es Standard de l'Industria: Tothom fa, so els tests contingudem
- Low Risk: Molts tests són "low risk" per als usuaris
Les Contra Arguments
- Les ToS no és consentiment real: 99% dels usuaris no llegixen ni entenen ToS
- Asymetria: Les corporacions decideixen quin risc és "low"
- Confiança Erodida: Si usuaris sabessin que eren sempre test subjects, podrien desconfiar
- Dades Recopilades: Els tests recopilen comportament detallat
Titol de l'Episodi: "Pixar Fora de Test, per WhatsApp"
El títol és una metàfora:
- "Pixar" represent corporacions creatives/tech grans
- "Fora de Test" = no ser un test subject involuntariament
- "Per WhatsApp" = vies de comunicació d'always-on monitorització
Conclusió: Governance Needed
L'episodi clama per:
- Transparència en testing
- Consentiment explícit (no enterrat en ToS)
- Comitès d'ética externos per a corporacions tech
- Possible legislació regulant este práctiques
Però acceptem que l'estatus quo probablement persistirà.