Durante
los
breves
días
del
año
pasado
en
que
estuvo
vigente
el
despido
de
Sam
Altman
de
OpenAI,
la
enorme
mayoría
de
sus
empleados
firmaron
una
carta
abierta
solicitando
su
retorno.
Ahora,
hemos
sabido
de
la
publicación
de
otra
carta
impulsada
por
antiguos
y
actuales
empleados
de
OpenAI,
pero
esta
plantea
unas
reivindicaciones
muy
diferentes.
Esta
nueva
carta
viene
a
denunciar
una
cultura
de «imprudencia»
y «secretismo»
en
la
compañía
creadora
de
ChatGPT,
una
que,
según
ellos,
prioriza
la
ganancia
y
el
crecimiento
sobre
la
seguridad
y
la
transparencia.
El
grupo
(liderado
por
Daniel
Kokotajlo,
un
ex
investigador
en
la
división
de
gobernanza
de
OpenAI),
afirma
de
hecho
que
la
empresa
está «corriendo
de
manera
desenfrenada
para
ser
los
primeros»
en
desarrollar
la
inteligencia
artificial
general
(AGI)…
sin
tomar
las
medidas
necesarias
para
prevenir
los
riesgos
potenciales
de
esta
tecnología.
Esto
ocurre
poco
después
de
que
dos
investigadores
senior
de
IA,
Ilya
Sutskever
y
Jan
Leike,
han
abandonado
recientemente
OpenAI
en
medio
de
polémica:
ambos
habían
liderado
el
equipo
de
«superalineamiento»
de
OpenAI,
que
se
centraba
en
gestionar
los
riesgos
de
los
modelos
de
IA
poderosos.
La
salida
de
estos
investigadores,
dicen
ahora
Kokotajlo
y
los
demás,
habría
motivado
a
otros
ex-empleados
a
alzar
la
voz.
¿Qué
piden
los
firmantes?
La
carta
solicita
(tanto
a
OpenAI
como
al
resto
de
grandes
empresas
de
IA)
que
establezcan
una
mayor
transparencia
y
más
protecciones
para
los
denunciantes,
estableciendo
una
cultura
de
crítica
abierta
y
un
proceso
destinado
a
que
los
empleados
puedan
plantear
preocupaciones
de
seguridad
de
manera
anónima.
(No
es
que
Silicon
Valley
cuente
con
buenos
precedentes
en
eso
de
promover
una
cultura
interna
de
crítica
a
los
posicionamientos
de
la
empresa).
Los
denunciantes
aseguran
que
OpenAI
ha
utilizado
tácticas
agresivas
para
impedir
que
los
trabajadores
expresen
sus
preocupaciones
sobre
la
tecnología.
Esto
incluye
la
firma
de
acuerdos
de
no
desprestigio
que
los
empleados
deben
firmar
al
abandonar
la
empresa,
y
cuya
extinción
promueven
ahora.
Para
ello,
han
contratado
como
aboga
pro
bono
a
Lawrence
Lessig,
un
destacado
académico
y
activista
legal
(que
también
asesoró
a
Frances
Haugen,
una
ex
empleada
de
Facebook
que
se
convirtió
en
denunciante),
quien
sostiene
que
«Los
empleados
son
una
línea
de
defensa
importante
para
la
seguridad,
y
si
no
pueden
hablar
libremente
sin
represalias,
ese
canal
se
cerrará».
OpenAI
se
defiende
Lindsey
Held,
portavoz
de
OpenAI,
ha
contestado
a
la
publicación
de
esta
carta
defendiendo
las
políticas
de
la
compañía
liderada
por
Altman:
«Estamos
orgullosos
de
nuestros
antecedentes
a
la
hora
de
proporcionar
los
sistemas
de
IA
más
capaces
y
seguros,
y
creemos
en
nuestro
enfoque
científico
para
abordar
los
riesgos.
Coincidimos
en
que
el
debate
riguroso
es
crucial
dado
el
significado
de
esta
tecnología,
y
continuaremos
colaborando
con
gobiernos,
sociedad
civil
y
otras
comunidades
en
todo
el
mundo».
El
problema
es
que
OpenAI
cuenta
también
con
un
historial
previo
de
defender
una
mayor
regulación
ante
los
micrófonos
mientras
hace ‘lobby’
a
puerta
cerrada
para,
precisamente,
relajar
dicha
regulación.
Imagen
|
Marcos
Merino
mediante
IA
En
Genbeta
|
Así
es
el «ejército
oculto»
de
contratistas
entrenando
a
ChatGPT
por
un
salario
muy
precario
y
sin
prestaciones
