Episodi 75
CunyatGPT
· 00h 36min
Aquí tenim el primigeni de TotGPT. Un episodi on explorem els límits d'aquesta tecnologia, les potencials amenaces, i per què, la major part de les vegades, la resposta correcta és simplement un humil "no ho sé".
Abracem els consells de l'audiència i fem una crida a potencials candidats per fer més divers i polèmic el pòdcast. Així doncs, si et consideres una personalitat diversa i polèmica, no dubtis a escriure'ns.
Si per algun motiu et vas perdre el Google I/O, aquest vídeo de deu minuts t'estalviarà un parell d'hores i et posarà al dia en termes de telèfons plegables que no importen a ningú i l'adhesió d'intel·ligència artificial a tots els seus productes.
Preguntem a ChatGPT per Foc a Terra. No content amb respondre amb una pila de contingut inventat, a més a més, hi posa més pa que formatge i ens sorprèn amb perles com que entre els seus hosts compta amb celebritats locals com Albert Om o Toni Clapés.
Aprofitem per fer una mica d'autopromoció, ja que Foc a Terra s'ha convertit en el primer pòdcast en llengua catalana que apareix a la primera posició dels programes destacats per Apple a Espanya.
El debut de ChatGPT en la cultura catalana
L'episodi marca el moment inicial del fenomen ChatGPT en el panorama catalàn. El títol «CunyatGPT» és un joc de paraules barcelonís — «cunyat» es refereix al germà de la parella, però aquí sembla suggerir una versió «col·loquial» o «simplificada» d'un sistema d'IA. L'episodi és apparent originalment un dels primers a explorar ChatGPT en profunditat.
Exploracions dels límits de ChatGPT
Els presentadores dedica temps a analitzar quins són realment els límits d'aquesta tecnologia. Malgrat la seva impressionant versatilitat, ChatGPT té limitacions significatives:
- No sempre és factual (pot generar informació plausible però falsa)
- No pot accedir a informació post-setembre 2021 (data de cutoff)
- Pot ser parcial o reflexar els prejudicis dels seus datos d'entrenament
- Sovint és absolutament confident en respostes que són incorrectes
Les amenaces potencials de la tecnologia IA
L'episodi explore les potencials preocupacions sobre l'ús massiu de models de llenguatge:
- Desinformació a escala industrial
- Desemplaçament de treballadors en certes industries
- Concentració de poder a mans de corporacions grans
- Dependència cognitiva (per què aprendre si puc preguntar a ChatGPT?)
- Aplicacions malintencionades (frau, phishing, contenido maliciós, etc.)
L'humilitat epistemológica: «No ho sé»
La conclusió més important de l'episodi és profunda: la resposta correcta a moltes preguntes és simplement «no ho sé». Això és especialment cert en un context on ChatGPT pot generar respostes que semblen autoritats però són potencialment incorrectes. Els presentadores suggereix que una virtut fonamental és la capacitat de reconèixer els límits del nostre coneixement. En un futur on la tecnologia pot generar informació plausible sobre qualsevol tema, la capacitat de discernir quin informació és realment fiable devient crítica.
La necesitat de literacy crítica en la era de l'IA
L'episodi conclou amb una reflexió sobre com els consumidors de informació (tots nosaltres) necessitem desenvolupar una «AI literacy» — la capacitat de entendre que les respostes generades per IA, mentre que sovint útils, no són infalibles i requereix validació independent.