La nueva fe ciega en la IA: pregúntale a Grok si es verdad. El preocupante mantra que inunda X

0
61

«@Grok,
¿esto
es
cierto?».
Si
navegas
habitualmente
por
X,
la
red
social
antes
conocida
como
Twitter,
seguramente
te
habrás
topado
con
esta
pregunta
en
los
comentarios
de
algún
post.
Ya
sea
un
vídeo
viral
con
tintes
de
fenómeno
paranormal
o
una
polémica
declaración
política,
la
inteligencia
artificial
de
Elon
Musk
se
ha
convertido
para
muchos

en
el
oráculo
digital
de
la
verdad.

Grok,
integrado
hasta
la
médula
en
la
red
social,
promete
algo
muy
atractivo:
un
acceso
privilegiado
a
la
conversación
global
con
respuestas
ingeniosas
y,
supuestamente,
libres
de
sesgo.
En
la
práctica,
se
ha
convertido

en
un
árbitro
de
la
realidad
para
miles
de
usuarios
,
que
en
lugar
de
contrastar
fuentes
por
su
cuenta,
le
piden
a
Grok
que
aclare
la
veracidad
de
una
publicación.

Lo
he
vivido
en
primera
persona,
especialmente
en
las
últimas
semanas,
marcadas
por
una
gran
agitación
geopolítica.
En
cada
publicación
polémica
o
relacionada
con
la
política,
revisar
las
respuestas
se
volvió
un
pequeño
juego:
siempre
había
alguien
preguntando
a
Grok
si
lo
que
se
afirmaba
era
verdad.
Y
lo
que
dice
Grok,
para
muchos, «va
a
misa».


Grok

Grok



Pulsa
en
la
imagen
para
acceder
a
la
publicación.

He
visto
cómo
lo
invocaban
en
debates
sobre
política
española,
discusiones
sobre
economía
latinoamericana,
e
incluso
en
temas
triviales
como
memes.
La
mecánica
es
sencilla:

mencionar
a
Grok
y
pedir
una
verificación
rápida
.
Aunque
no
siempre
responde,
y
a
veces,
cuando
lo
hace,
lo
hace
mal.

¿Sirve
realmente
como
herramienta
de
verificación?

Varios
estudios
ya
están
intentando
responder
a
esta
pregunta.
Uno
de
los
más
recientes,
realizado
por
el

Digital
Forensic
Research
Lab
(DFRLab)
,

analizó
su
rendimiento
durante
el
conflicto
entre
Irán
e
Israel
.
Examinaron
130.000
publicaciones
en
distintos
idiomas
relacionadas
con
los
ataques
y
concluyeron
que
Grok
ofrecía
respuestas
inconsistentes.

Verificaicon Video

Verificaicon Video

Uno
de
los
principales
fallos:
su
incapacidad
para
identificar
vídeos
generados
por
IA
o
verificar
si
ciertas
cuentas
eran
oficiales.
Pero,
pese
a
no
ser
infalible,
su
influencia
es
evidente:
muchas
personas
le
otorgan
validez
inmediata
a
sus
respuestas.

Un
ejemplo
claro
fue
un
vídeo
viral
que
supuestamente
mostraba
el
aeropuerto
de
Tel
Aviv
destruido.
El
mensaje
que
lo
acompañaba
decía:
“Esto
no
es
IA,
es
el
aeropuerto
real
de
Tel
Aviv.
Puedes
confirmarlo
con
Grok.”
El
vídeo,
sin
embargo,
era
falso.
Generado
por
inteligencia
artificial.

Grok,
en
ese
caso,
ofreció
respuestas
contradictorias:
en
unas
confirmaba
la
veracidad
del
vídeo,
en
otras
dudaba.
Algo
similar
ocurrió
con
otro
vídeo
que
mostraba
edificios
derrumbándose
tras
un
supuesto
ataque:
Grok
lo
validó
como
real,
citando
incluso
a
medios
como
CNN,
aunque
también
era
falso.

Edifcio

Edifcio

Pero…
¿Por
qué
ocurre
esto?
Porque
Grok
se
nutre
del
propio
X.
Su «conocimiento»
se
basa
en
la
inmensa,
caótica
y
a
veces
tóxica
conversación
que
impera
dentro
de
la
plataforma.
Si
una
narrativa
falsa
se
va
repitiendo
de
manera
reiterada,
la
IA
podría
asumirlo
como
un
hecho
y
verificar
la
información.

Esto
no
quita
que
a
veces
las
respuestas
que
genera
Grok
son
consistentes
y
llegan
a
quitarle
peso
a
un
bulo
que
empieza
a
ser
más
fuerte.
Aunque
no
fuera
la
respuesta
que
esperaba
la
persona
que
le
preguntó
a
la
IA.

La
peligrosa
comodidad
de
no
pensar

El
verdadero
problema
está
en
la
actitud
del
usuario.
Preguntar
a
Grok
no
siempre
parte
de
un
interés
genuino
por
saber
la
verdad,
sino
del
deseo
de
obtener
una
validación
rápida.
Es
más
cómodo
pedir
una
respuesta
prefabricada
que
contrastar
datos,
leer,
investigar
o
formarse
un
juicio
crítico.

Así,
una
de
las
habilidades
más
importantes
en
la
era
digital
—el
pensamiento
crítico—
se
delega
en
un
algoritmo
que,
como
todos,
es
imperfecto.
El
riesgo
es
enorme:
Grok
se
convierte
en
el
árbitro
de
la
realidad,
erosionando
la
confianza
en
el
periodismo,
en
las
instituciones
y
en
el
criterio
propio.

Por
eso
es
fundamental
recordar
que

la
verdad
no
siempre
cabe
en
280
caracteres
.
Si
algo
no
te
cuadra,
si
una
afirmación
parece
demasiado
impactante
para
ser
cierta,
busca.
Lee.
Contrasta.
No
te
quedes
con
una
única
fuente.
Solo
así
podremos
defender
nuestra
capacidad
de
pensar
en
un
mundo
saturado
de
información.

Imágenes
|

Alexander
Shatov

En
Genbeta
|

Llevo
dos
años
usando
ChatGPT
y
tengo
claro
que
este
truco
es
infalible
para
lograr
las
mejores
respuestas