Cognenza
CA

Traducció assistida per IA a partir de l’original en castellà. Veure l’original

Seguretat i bon ús · Nivell inicial

Com detectar al·lucinacions de la IA: 6 comprovacions ràpides

Què és una al·lucinació de ChatGPT o Gemini, en quines dades falla més segons OpenAI i com comprovar una resposta en dos minuts amb fonts i cerca.

Per Equip editorial de Cognenza · Actualitzada el · 3 min de lectura · Amb fonts citades

Una al·lucinació és quan la IA et diu una cosa falsa amb tota naturalitat. No és estrany: OpenAI explica al seu centre d’ajuda que, com qualsevol model de llenguatge, ChatGPT pot donar respostes incorrectes o enganyoses, de vegades amb molta seguretat.

On falla més (segons OpenAI)

  • Definicions, dates o dades incorrectes.
  • Cites, estudis o referències inventades, fins i tot fonts que no existeixen.
  • Respostes massa segures a preguntes ambigües o complexes.
  • Informació recent: el model aprèn fins a una data; sense cerca no sap què ha passat després.
  • Simplificar massa o presentar una sola visió com la veritat absoluta.

6 comprovacions ràpides

  1. Marca el concret. Cada xifra, data, nom, llei o enllaç.
  2. Demana fonts. A ChatGPT, amb la cerca activada, les respostes citen webs; a Gemini, Google explica que apareix un botó Fonts quan n’hi ha (ajuda de Gemini).
  3. Obre cada enllaç. Comprova que existeix i diu el mateix.
  4. Reformula o prova un altre xatbot. Si la xifra canvia, no la facis servir.
  5. Fes-la dubtar amb el prompt d’aquesta pàgina.
  6. Ves a la font oficial per a salut, diners, impostos o lleis. Google indica que no facis servir Gemini per a assessorament mèdic, jurídic o financer.

Regla d’or

Fes servir la IA com a primer esborrany, no com a font final. És el que recomana la mateixa OpenAI.

Preguntes freqüents

Què és exactament una al·lucinació?

OpenAI la defineix com una resposta incorrecta en els fets: definicions, dates o dades errònies, cites o estudis inventats, o referències a fonts que no existeixen.

Si la IA sona molt segura, és més fiable?

No. OpenAI adverteix que el model pot mostrar molta confiança fins i tot quan s’equivoca.

La cerca web ho soluciona?

Ajuda, perquè la resposta arriba amb fonts citades, però OpenAI recomana obrir els enllaços i comprovar-los quan l’exactitud importa.

Glossari · Seguretat i bon ús

Continua llegint

Fonts

Les fonts oficials s’enllacen en la llengua original.

  1. Does ChatGPT tell the truth? — OpenAI
  2. Ver fuentes relacionadas de las aplicaciones de Gemini — Google
  3. Redactar borradores de correos con Gemini en Gmail (avisos sobre información inexacta) — Google

Historial de canvis

  • : Publicació inicial amb l’ajuda oficial d’OpenAI i Google consultada aquell dia.

Contingut divulgatiu, preparat amb l’ajuda d’eines d’IA, amb fonts citades. No substitueix el consell d’un professional. Les eines canvien de pressa: si veus alguna cosa desactualitzada, escriu-nos a contacto@cognenza.com. Com treballem.