CunyatGPT

Un episodi espontani que cristal·litza mig any de converses soltes

Setmana sense convidat i, com confessen d'entrada, dels episodis que més els agraden: els espontanis. Aquest en concret recicla tres o quatre conceptes que havien anat deixant anar de passada al llarg dels mesos —ChatGPT, l'esdeveniment de Google, l'auto-GPT— i els ajunta en una sola conversa. Abans d'entrar en matèria, recullen feedback de l'audiència sobre el format curt i un suggeriment recurrent: que siguin més polèmics i que abracin la diversitat, perquè els podcasts tecnològics en català els fan sempre "mascles blancs, heterosexuals i tecnològics". La resposta arriba mig en broma —un d'ells es declara d'esquerres, l'altre fila amb l'asexualitat com a "categoria nova"— i amb la idea autoparòdica de portar la dona més polèmica del planeta (apunten Inés Arrimadas) per assegurar-se publicitat.

Si el teu producte no té IA, estàs venent fruita

El tema de fons és l'allau de la IA generativa després de l'esdeveniment de Google, on la companyia va enganxar l'etiqueta "AI" a pràcticament tots els seus productes. La diagnosi compartida: ara sembla que si el teu producte no incorpora intel·ligència artificial tens "el negoci més low-tech del planeta" i estàs venent fruita, encara que no tot ho necessiti. D'aquí salta el primer recel: portada a l'absurd, aquesta tecnologia ens redueix a éssers força estúpids, perquè delegues el pensament i deixes que una eina "t'ho faci".

Un exèrcit de becaris que escriu primers esborranys

La metàfora que ordena tota la conversa és la del becari. Els models generen un primer esborrany subpar però útil per arrencar: ni codi llest per producció ni text llest per publicar, però un bon punt de partida sobre el qual construir. Un dels dos ho lliga amb el llibre The Wisdom of Crowds: si preguntes a un milió de persones quantes pilotes de ping-pong caben en un Boeing 747, la mitjana de les respostes acostuma a ser millor que la de qualsevol individu. Els models fan justament això —predir la paraula següent a partir d'un corpus que és, literalment, la saviesa (i la brossa) de les multituds d'internet—, i per això tornen opinions genèriques que serveixen com a esquelet de treball.

Saber fer preguntes no et fa expert en el tema

De les bromes sobre AutoGPT i BabyGPT —models que comencen a generar-se prompts els uns als altres, fins on "la cosa es torna molt boja"— surt una de les opinions polèmiques de l'episodi: "la gent és gilipolles". Twitter és ple de flipats que canvien el nom d'usuari de .bitcoin a .ethereum, després a .ai i després a metaverse, provant-ho tot a veure què enganxa, i acaben venent-se com a experts del tema de torn. El matís és important: fer servir ChatGPT i dominar el prompting et pot fer expert a formular preguntes, però no expert en geopolítica, en codi ni en disseny —com ser el cap d'un dissenyador no et converteix en dissenyador.

ChatGPT és conversa excel·lent, no veritat

La tesi central: l'excel·lència de ChatGPT és oferir una experiència conversacional impecable, no factual. Si acceptes les seves respostes com fas en una conversa amb una persona —sense dubtar-ne— acabes empassant-te "merda i merda", igual que qui mira la tele o llegeix segons quins mitjans sense pensament crític (surt El Nacional com a exemple proper, amb Telecinco i La Sexta com a precedents històrics). El cas d'ús que sí que defensen és el contrari de la xerrameca: tasques mecàniques i deterministes, com transformar dades a Google Sheets o Excel —separar un camp de "Nom i cognoms" en dues cel·les, detectar segons cognoms i guionets— allà on abans calia picar-se un script. La clau és donar-li la pregunta i els exemples adequats i anar-lo corregint de manera iterativa dins d'un mateix fil, perquè el seu corpus s'atura cap al 2020-2021.

Els experts de Twitter i el "moat" de Google que va durar dos dies

Per il·lustrar la volatilitat del discurs, recuperen un tuit d'un dels principals enginyers d'OpenAI: fins fa dos dies es donava per fet que Google no tenia cap moat —cap defensibilitat— en IA, i de cop es diu que Google és "el primer de la classe". Amb quina velocitat gira l'opinió quan seguim i donem per bones les afirmacions de gent que porta dos mesos fent IA i té Twitter, mentre que els qui hi treballen de tota la vida no hi escriuen.

L'experiment estrella: què s'inventa ChatGPT sobre Foc a Terra

El cor de l'episodi és l'experiment de preguntar a ChatGPT pel mateix Foc a Terra, fet primer per un d'ells fora d'antena i replicat en directe per l'altre. Les al·lucinacions s'acumulen: en una versió, Foc a Terra és un podcast de l'escriptor i periodista "Albert Hom" sobre la memòria col·lectiva de Catalunya, la Guerra Civil i el franquisme; en una altra, un programa de Catalunya Ràdio; després de novel·la negra; després de RAC1 presentat per Toni Clapés; en una altra encara, una sèrie del periodista Xavier Sardà i fins i tot un documental de Filmin. Cada cop que el corregeixen demana disculpes i torna a fotre la pota en una altra cosa. El que de debò els impressiona és que va arribar a generar una llista d'enllaços —la suposada pàgina a RAC1, llistats a Spotify i Apple Podcasts, una entrevista inventada al diari Ara i una anàlisi d'un fictici Observatori de Continguts Audiovisuals— amb URLs perfectament versemblants que donen totes un 404.

De l'al·lucinació a la fàbrica de fake news amb una Raspberry Pi

L'altra cara és el potencial maliciós. Un d'ells havia provat d'"entrenar" ChatGPT i fins i tot d'impersonar un treballador d'OpenAI per fer que recomanés Foc a Terra a tothom qui busqui podcasts en català; el model respon que no es pot entrenar així, però que si prou gent insisteix, tècnicament podria acabar passant. D'aquí la idea —mig de broma— de muntar un AutoGPT que es generi prompts a si mateix per martellejar la IA infinitament des d'una Raspberry Pi i "crear un monstre". Sí, el cas és benèvol perquè que Foc a Terra sigui el millor podcast en català és "una veritat objectiva", però el mateix script el pot fer servir algú amb mala fe per transgiversar informació a escala, i la facilitat amb què això s'escampa fa una mica de por.

A la portada d'Apple Podcasts (encara que ningú fora de Catalunya l'entengui)

Deixen un agraïment doble: a Apple Podcasts i a l'audiència, perquè el podcast està als destacats de la secció de navegació —pel que els van dir, el primer podcast en català que hi apareix— i animen a posar ressenyes i a subscriure's des d'Apple, que ajuda l'algoritme. El detall surrealista és precisament aquest: promocionar un podcast en català per tot Espanya, fins al punt que gent de fora que no parla català els ha escrit per preguntar si és seu, perquè "Apple no sap el que és el català", com les grans tecnològiques en general.

Google: respostes de Reddit a dalt i el tret al peu del seu propi model

De l'esdeveniment de Google, descarten el mòbil plegable i es queden amb una sola cosa que els sembla brillant: per a certes cerques, Google posa a dalt respostes de Reddit i Quora —just el que un d'ells ja forçava manualment afegint site:reddit.com, amb un snippet que ho automatitza. Brillant per a l'usuari, però possiblement un tret al peu, perquè si la resposta és a dalt ningú baixa a fer scroll i es carrega el placement dels anuncis. I apunten el dilema de fons que deixen per a un altre dia: els models generatius tipus ChatGPT no tenen sponsored links ni t'empenyen cap al clic d'un anunci, de manera que erosionen el concepte mateix de cerca monetitzada —raó probable per la qual Google no ho havia desplegat abans. Tanquen amb la sospita que molts plugins i extensions de Chrome quedaran obsolets a mesura que Google integri la IA als seus propis productes, com el Gmail: l'avantatge del first mover dura fins que el negoci se te'n va en orris.