OpenAI vol comprar Chrome i diu que ser educat al xatbot és car

Detecten “al·lucinacions” dels nous models O3 i O4-mini

Però mentre la companyia fa passos per dominar l’accés a la xarxa, a dins dels seus laboratoris sorgeix una paradoxa: els últims models, tot i ser més potents, al·lucinen més del compte. Segons un informe tècnic publicat recentment per OpenAI i recollit per TechCrunch, els nous O3 i O4-mini superen els seus predecessors en capacitats de raonament, però també en errors. Concretament, O3 va fallar el 33% de les respostes en proves amb PersonQA, mentre que O4-mini va arribar fins al 48%, doblant el marge d’error dels models anteriors.

Aquest fenomen, conegut com a “al·lucinacions”, no és nou: la IA genera respostes plausibles però inventades quan no troba prou dades. Ara bé, que això s’agreugi en models més nous desperta preocupació. Aquests errors poden passar desapercebuts en entorns informals, però resulten perillosos quan la IA s’utilitza per resumir documents legals, elaborar informes o assessorar en decisions sensibles. És per això que, malgrat el progrés tècnic, el criteri humà continua essent essencial.

Dir “gràcies” a ChatGPT surt car amb servidors i aigua

Una altra dada que ha cridat l’atenció aquesta setmana és el cost de la cortesia digital. Un usuari va preguntar a Sam Altman, CEO d’OpenAI, a través de la xarxa social X si era cert que les expressions de cortesia com “gràcies” o “si us plau” encarien l’ús de ChatGPT. La resposta no va ser només afirmativa, sinó reveladora: “Desenes de milions de dòlars ben gastats”, va piular Altman, tot reivindicant el valor d’una interacció educada, encara que sigui amb màquines.

Aquest cost no és cap metàfora. Cada missatge que genera un model de llenguatge com ChatGPT implica una operació d’inferència que es processa en servidors amb GPUs d’alt rendiment, com les H100 de NVIDIA. Aquesta infraestructura consumeix una quantitat desorbitada d’electricitat i aigua per refrigerar els sistemes. Així, més paraules equivalen a més energia. I si milions d’usuaris afegeixen frases de cortesia als seus missatges al xatbot, l’impacte acumulat es tradueix en una factura energètica milionària.

Això no vol dir que hàgim de deixar de ser amables. De fet, un estudi recent sobre la relació entre cortesia i rendiment dels LLM suggereix que els missatges maleducats poden donar pitjors resultats. Però també deixa clar que l’excés de cortesia no sempre millora la qualitat de les respostes. El que sí que queda en evidència és que la manera com ens adrecem a les màquines també modela la seva resposta i, de retruc, la nostra percepció de la IA.

Del monopoli de Google al monopoli d’OpenAI?

Mentre la batalla judicial contra Google podria obrir una escletxa de canvi, la competència entre grans tecnològiques està redefinint l’ecosistema digital a una velocitat vertiginosa. El cas d’OpenAI és paradigmàtic: va néixer com una organització sense ànim de lucre i avui fa moviments propis d’un gegant empresarial amb aspiracions hegemòniques. Les últimes contractacions, l’ambició de tenir una infraestructura pròpia i l’intent de controlar el canal d’accés a la informació indiquen que no vol ser només un actor rellevant, sinó el nou centre gravitacional de la xarxa.

Aquest desig de control total planteja nous interrogants. Què passa si el navegador, el cercador i l’assistent que fa servir l’usuari són de la mateixa empresa? Com es garanteix la pluralitat d’accés al coneixement? I què en queda, del principi de neutralitat tecnològica? Són preguntes que comencen a planar sobre un sector en què la concentració de poder en poques mans ja ha estat motiu de sancions i litigis. Però la veritable batalla no es lliura només als tribunals: es juga en el nostre dia a dia, quan decidim què busquem, amb qui ho consultem i com ens hi relacionem. Estem a l’inici d’una nova era: la fi d’internet tal com l’hem entès i l’inici de l’era conversacional.