Com detectar un deepfake: imatges, vídeos i àudios fets amb IA
Senyals per sospitar, eines oficials com SynthID (Google) i Content Credentials (C2PA), i què fer si et arriba un deepfake o una estafa amb veu clonada. Amb fonts citades.
Un deepfake és un contingut creat o alterat amb IA que imita una persona real. Ja no n’hi ha prou de mirar si «sembla estrany»: els generadors actuals són molt realistes.
Senyals per sospitar
- Urgència i emoció: «mama, he perdut el mòbil, fes-me un Bizum ara».
- Origen desconegut: un vídeo reenviat sense font o un compte acabat de crear.
- Detalls incoherents: mans, text, reflexos, ombres o llavis que no quadren amb la veu. Compte: que no n’hi hagi no demostra res.
Eines que sí que ajuden
| Eina | Què fa |
|---|---|
| SynthID (Google) | Marca invisible en imatges, vídeo, àudio i text generats amb IA de Google. Pots pujar el fitxer a Gemini i preguntar si l’ha creat o editat la IA de Google. |
| Content Credentials (C2PA) | Estàndard obert que funciona com una «etiqueta nutricional»: mostra l’origen i les edicions d’un contingut quan l’autor la inclou. |
Cap no ho detecta tot. Fes-les servir com a pista, no com a veredicte.
Què diu la llei
Segons la Comissió Europea, amb el Reglament d’IA els deepfakes s’han d’etiquetar de manera clara i visible, i els proveïdors d’IA generativa han de fer identificable el contingut generat. Les normes de transparència s’apliquen des de l’agost de 2026.
Si te n’arriba un
- No el comparteixis.
- Si et demanen diners o dades, penja i truca tu a la persona o entitat per un número conegut. Acordeu una paraula clau en família.
- Demana ajuda al 017 d’INCIBE i, si hi ha delicte, denuncia-ho.
Preguntes freqüents
Si SynthID no troba marca, el contingut és real?
No. SynthID només detecta contingut creat o editat amb eines de Google que porten aquesta marca. Altres generadors no la posen.
On demano ajuda si m’han estafat?
A la Línia d’Ajuda en Ciberseguretat d’INCIBE, el 017, gratuïta i confidencial. Si hi ha delicte, denuncia-ho a la policia.
Continua llegint
Fonts
- Google SynthID — Google DeepMind
- Content Credentials (C2PA) — Coalition for Content Provenance and Authenticity
- Ley de IA: riesgo de transparencia — Comisión Europea
- Línea de Ayuda en Ciberseguridad 017 — INCIBE
Historial de canvis
- : Primera publicació amb la documentació de SynthID i C2PA consultada aquell dia.
Contingut divulgatiu, preparat amb l’ajuda d’eines d’IA, amb fonts citades. No substitueix el consell d’un professional. Les eines canvien de pressa: si veus alguna cosa desactualitzada, escriu-nos a contacto@cognenza.com. Com treballem.