La OMS ahora tiene su propio chatbot de IA: está desactualizado y no funciona si no tiene acceso a la cámara

0
78

La
Organización
Mundial
de
la
Salud
(OMS)
tiene
su
propio
chatbot
conversacional.
El
organismo

dependiente
de
las
Naciones
Unidas


lanzó
a
principios
de
este
mes
a
SARAH
,
una
“promotora
de
salud
digital”
disponible
las
24
horas
del
día,
los
7
días
de
la
semana
en
ocho
idiomas.

“Utiliza
la
IA
generativa
para
ayudarte
a
llevar
una
vida
más
saludable”,
dice
la
OMS
en

la
página
de
presentación

de
su
más
reciente
novedad
digital.
Sin
embargo,

como
recoge
Bloomberg
,
estamos
frente
a
un
prototipo
desactualizado
que,
en
ocasiones,
puede
acabar
alucinando.

SARAH,
el
chatbot
de
IA
de
la
OMS

La
misión
de
SARAH
es
ofrecer
consejos
e
información
sobre
un
amplio
abanico
de

temas
de
salud
.
Podemos
preguntarle
cómo
abordar
el
estrés
o
cómo
alimentarnos
mejor.
En
caso
de
esto
último,
también
tenemos
la
posibilidad
de
añadir
contexto
para
recibir
una
respuesta
más
precisa.


En
la
página
del
chatbot

podemos
leer
que
ha
sido
entrenado
“con
la
información
más
reciente
de
la
Organización
Mundial
de
la
Salud
y
socios
de
confianza”.
Sin
embargo,
abajo
y
en
letra
pequeña,
la
OMS
señala
que
las
respuestas
del
mismo
no
representan
sus
puntos
de
vista.

Ciertamente,
confiar
en
lo
que
dice
un
chatbot
de
IA
no
es
una
buena
idea,
más
aún
cuando
se
trata
de
temas
de
salud.
En
el
estado
actual
en
el
que
se
encuentra
la
tecnología,
estas
soluciones

basadas
en
algoritmos

tienen
a
alucinar,
incluso
tras
haber
recibido
un
entrenamiento
de
calidad.

Pero
lo
cierto
es
que
SARAH
parece
no
estar
tan
actualizada
como
se
promete.
El
mencionado
medio
estadounidense
señala
que
la
herramienta
está
basada
en
ChatGPT-3.5
y
que
sus
datos
de
entrenamiento
llegan
hasta
septiembre
de
2021.

Esto
se
traduce
en
que
el
chatbot
no
tiene
información
reciente
sobre
avisos
médicos
o

eventos
importantes
recientes
.
En
nuestras
pruebas
hemos
podido
comprobarlo.
Le
hemos
preguntado
cuándo
se
decretó
el
fin
de
la
emergencia
sanitaria
de
COVID-19.

Sara6

Para
SARAH
lo
mencionado
nunca
ocurrió,

aunque
ocurrió
el
5
de
mayo
de
2023
.
También
le
hemos
preguntado
sobre
las
muertes
por
accidentes
de
tránsito
del
último
año.
El
chatbot
nos
ha
dado
sus
estadísticas,
pero
su
conocimiento
indica
que
el
último
año
fue
el
2020.

A
nivel
de
privacidad,
esta
solución
desarrollada
por
Digital
People
Soul
Machines
Limited
promete
mantener

cada
visita
de
manera
anónima
,
sin
embargo,
se
recopilan
datos
aleatorios
no
vinculados
a
una
dirección
IP.
Tampoco
se
requiere
una
cuenta
para
utilizar
el
servicio.

Sara23

Curiosamente,
SARAH
obliga
a
los
usuarios
a
conceder
permiso
a
la
cámara
y
el
micrófono
para
poder
funcionar.
Si
bien
el
acceso
a
estos
recursos
está
ligado
a
una
“mejora
en
la
experiencia
de
la
conversación”,
la
misma
podría
llevarse
a
cabo
únicamente
a
través
de
texto.

En
este
sentido,
en
tiempos
donde
cada
vez
valoramos
más
la
privacidad
y
los
permisos
que
otorgamos,
sería
idóneo

tener
la
posibilidad
de
elegir

si
queremos
habilitar
el
micrófono
y
la
cámara
para
conversar
de
manera
natural
a
través
de
la
voz
con
el
chatbot
de
IA.

La
OMS
aspira
a
crear
una
experiencia
con
tecnología
de
punta,
por
lo
que
el
sistema
también
se
alimenta
de
las
expresiones
faciales
de
los
usuarios
(por
eso
pide
acceso
a
la
cámara).
Los
vídeos,
según
la
organización,
se
borran
después
de
30
segundos.

Como
decimos,
se
trata
de
un
proyecto
en
pleno
desarrollo.
De
hecho,
la
propia
OMS
dice
que
está
abierta
a
recibir
comentarios
sobre
el
funcionamiento
de
SARAH.
Los
usuarios
pueden
encontrar
un
botón
dedicado
para
esto
en
la
esquina
superior
izquierda.

El
proyecto
busca
explorar
los
beneficios
de
la
IA
para
la
salud
pública,
así
como
comprender
sus
desafíos.
La
IA,
reflexiona
la
OMS, «plantea
importantes
preocupaciones
éticas
,
como
el
acceso
equitativo,
la
privacidad,
la
seguridad
y
la
precisión,
la
protección
de
datos
y
los
prejuicios”.

Imágenes
|
OMS

En
Xataka
|

Empresas
de
EEUU
y
China
se
dan
la
mano
por
un
buen
motivo:
crear
el
primer
estándar
global
de
IA
generativa