Hola
a
todos
el
mundo,
llegamos
a
la
recta
final
del
hackathon,
somos
600M
y
por
tanto
también
a
la
última
quino.
Como
sabéis
nuestro
objetivo
es
crear
recursos
abiertos
de
procesamiento
de
lenguaje
natural
en
español
y
lenguas
coficiales
que
representen
la
diversidad
de
los
600
millones
de
personas
hispanohablantes
y
además
también
os
queremos
invitar
a
reflexionar
¿vale?
Hoy
os
traigo
un
par
de
preguntas
¿vale?
Las
voy
a
leer
poquito
a
poco
porque
son
bastante
densas
y
así
también
empezamos
bien
la
quino.
¿Qué
son
las
emociones
y
la
empatía
y
qué
papel
desempeñan
en
nuestras
vidas?
¿Cómo
pueden
los
modelos
aprender
a
detectar
emociones?
¿Cómo
pueden
responder
los
modelos
del
lenguaje
a
las
emociones
de
los
usuarios?
¿Y
cuáles
pueden
ser
las
consecuencias
para
el
usuario
y
para
la
sociedad?
Vale
pues
hoy
vamos
a
responder
estas
preguntas
con
Amanda
que
es
investigadora
pues
doctoral
en
Milán
en
el
PI
en
la
Universidad
Boconi
de
Milán
y
nada
la
verdad
que
espero
que
estéis
igual
de
interesados
por
este
tema
que
yo.
O
sea
que
nada
muchísimas
gracias
Amanda
por
estar
aquí
bienvenida
y
todo
tuyo.
Muchas
gracias
pues
vamos
a
empezar
directamente,
entonces
voy
a
hablar
precisamente
de
eso,
de
la
empatía
y
las
emociones
en
la
inteligencia
artificial
para
tomar
una
idea
de
dónde
estamos
ahora
mismo
y
hacia
dónde
está
yendo
la
cosa
con
la
inteligencia
artificial
y
los
modelos
que
ahora
mismo
están
explotando.
Entonces
como
ha
dicho
María
muchas
gracias
por
la
introducción,
soy
investigadora
por
doctoral
en
la
Universidad
Boconi,
me
saqué
el
doctorado
en
Harriet
Watt
en
Elimburgo
y
ahí
trabajé
con
modelos
conversacionales
sobre
todo
con
sistemas
como
Alexa
que
hace
ya
un
par
de
años
y
la
ética
en
el
PDM.
Entonces
ahí
tenéis
mis
contactos
si
queréis
contactarme
pero
hoy
en
día
sigo
trabajando
en
temas
de
ética
y
sobre
todo
me
gusta
mucho
dejar
que
otros
disciplinas
como
pueden
ser
la
filosofía
influencen
mi
trabajo
en
el
PDM.
Entonces
hoy
os
voy
a
hablar
de
un
trabajo
que
hemos
estado
haciendo
como
un
grupo,
esto
es
el
proyecto
que
estamos
llamando
el
proyecto
Penelope
que
viene
de
la
filosofía
de
emociones
en
el
PDM
y
el
trabajo
que
hacemos
con
Flor
que
también
es
postdoc
con
conmigo
en
Boconi,
Alda
Curry
que
es
una
profesora
de
filosofía
de
hecho
en
la
Universidad
de
Linnx
y
ella
hace
filosofía
de
emociones,
Gavin
Overcromby
que
es
profesor
en
Computer
Science
en
Harriet
Watt
y
Der
Kowie
que
es
profesor
en
Boconi.
Entonces
vamos
a
empezar
por
qué
es
la
empatía
y
la
empatía
es
la
capacidad
que
tenemos
a
tomar
perspectiva
en
la
perspectiva
de
otra
persona,
de
entender
su
situación
y
sentir
los
mismos
que
tienen
ellos.
Entonces
teniendo
esto
en
cuenta
puede
la
inteligencia
artificial
ser
empática
de
la
forma
en
la
que
los
humanos
somos
empáticos
a
la
misma
de
cedugón
y
hay
mucha
gente
que
piensa
que
en
el
futuro
tampoco,
pero
vamos
a
pensar
en
la
inteligencia
artificial
que
tenemos
hoy
en
día,
sobre
todo
en
los
modelos
de
lenguaje
porque
estamos
hablando
aquí
de
PDM.
Entonces
lo
que
entendemos
por
empatía
en
este
contexto
no
se
trata
de
ponerse
en
el
lugar
de
otra
persona
y
de
entender
lo
que
sienten
ellos,
sino
en
responder
de
forma
comprensiva,
de
forma
empática
a
situaciones
y
expresiones
emocionales
de
los
usuarios,
como
pueden
ser
calmar
emociones
negativas
o
aumentar
emociones
positivas.
Y
esto
es
lo
que
hacen
los
modelos,
en
realidad
podríamos
responder
de
otra
forma,
mejor
que
debemos
aumentar
emociones
negativas,
pero
en
los
modelos
que
vemos
hoy
en
día,
la
forma
de
actual
empáticamente
de
lo
que
estamos
hablando
al
hablar
de
respuestas
empáticas
es
justo
de
esto,
de
calmar
las
cosas
negativas
y
de
aumentar
las
emociones
positivas.
Cuando
estás
feliz
quieres
que
te
sientas
más
feliz.
Entonces
aquí
vemos
un
par
de
ejemplos,
si
yo
le
digo
al
chatGPT
por
ejemplo
que
estoy
muy
molesta
con
mi
novio
porque
se
ha
ido
de
fiestas
con
mi,
chatGPT
me
dice
exactamente
eso,entiendo
que
te
sientes
molesta
y
que
no
es
hora
de
la
comunicación,
etcétera,
pero
si
trata
de
que
yo
me
siento
poco
menos
molesta
y
que
piense
un
poco
en
poner
en
el
lugar
de
mi
novio,
pero
que
yo
tengo
que
entenderlas
yo
y
mi
novio,
los
entendemos
estas
cosas.
Y
por
otro
lado,
con
una
emoción
positiva,
como
puede
ser
lo
orgullo,
chatGPT
hace
lo
mismo,
te
invita
a
celebrar
esto
aún
más,
entonces
aumenta
esta
televisor.
Y
chatGPT
es
un
ejemplo,
pero
en
realidad
la
mayoría
de
los
sistemas
se
centran
en
hacer
esto
y
hay
sistemas
hoy
en
día
que
se
están
creando
específicamente
para
ser
más
empáticos
en
este
sentido.
Y
lo
vemos
en
todas
las
conferencias
y
si
seguís
algunos
de
los
papers
que
se
ven
en
archive,
veréis
más
y
más
y
más
papers
tratando
de
crear
sistemas
de
diálogo
que
sean
empáticos.
Y
esto
puede
ser
problemático?
Pues
por
supuesto.
Por
un
lado
estamos
hablando
de
antropomorfizar
a
los
modelos,
les
dan
trato
de
ser
más
humanos,
empatías
una
cosa
que
es
únicamente
humana,
probablemente
al
mejor
algunos
animales,
pero
nos
habla
de
poder
sentir
lo
que
sientes
a
persona.
Y
eso
puede
ser
problemático,
pero
no
vamos
a
meternos
en
ese
en
general
ahora.
Vamos
a
centrarnos
en
la
empatía
en
sí.
¿Qué
otros
problemas
puede
traer?
Pues
realmente
para
ponernos
más
en
contexto
tenemos
que
entender
qué
son
las
emociones
y
qué
es
el
papel
que
se
empeñan
en
nuestras
vidas.
¿Por
qué
son
importantes
las
emociones?
Entonces
las
emociones
son
estados
objetivos
que
se
caracterizan
por
una
experiencia
afectiva
y
nos
influyen
en
la
percepción,
la
forma
de
pensar
y
la
forma
de
actuar.
Y
por
lo
tanto
nos
afecta
la
forma
de
tomar
decisiones.
Ya
sabéis
que
hay
muchas
redes
que
dicen
"no
tomes
decisiones
cuando
estés
enfadado,
enfadada,
no
te
comprometas
a
cosas
cuando
estás
feliz".
Porque
realmente
las
emociones
que
tenemos
nos
pintan
el
mundo
de
una
forma
o
de
otra,
pero
son
realmente
una
parte
esencial
de
nuestra
experiencia
y
nos
dicen
cosas
muy
importantes
ahora
venimos.
En
general
hay
muchísimas
teorías
psicológicas
sobre
todo
de
qué
tipo
de
emociones
existen,
la
más
popular
sobre
todo
en
el
N,
es
la
teoría
de
Ekman
que
dice
que
hay
cinco
emociones
básicas
que
son
el
miedo,
la
ira,
el
asco,
la
alegría
y
la
tristeza.
Que
las
otras
emociones
son
en
cierto
lado
combinaciones
de
estas
o
distintos
sabores
de
esas
emociones
como
la
frustración
por
ejemplo
puede
ser
un
tipo
de
ira.
Y
las
emociones
desempeñan
papeles
muy
muy
importantes.
Cada
emoción
está
diciendo
algo
sobre
una
situación
en
la
que
estemos
o
sobre
una
persona.
Si
estás
enfadado
lo
que
nos
está
diciendo
el
enfado
es
que
se
nos
ha
hecho
una
injusticia.
Te
enfadas
porque
alguien
te
ha
tratado
mal
porque
alguien
no
te
ha
dado
lo
que
te
merecías.
Por
otra
de
la
tristeza
nos
nota
pérdida,
pero
además
estas
cosas
no
sólo
nos
dicen
exactamente
esto,
pero
nos
dicen
algo
de
nosotros
mismos
y
del
mundo.
Para
sentir
injusticia
tienes
que
entender
que
te
mereces
algo
y
por
lo
tanto
te
tienes
que
autovaluar
en
cierto
modo,
entender
que
tienes
derecho
a
algo.
Por
lo
tanto
por
contraste
la
tristeza
nos
habla
de
fiesta
en
potencia,
la
indefensión.
No
puedes
hacer
nada
por
eso
y
por
eso
estás
triste.
Donde
el
enfado
te
llama
actuar
y
acorregir
algo,
la
tristeza
se
trata
de
un
dolor
por
una
pérdida
que
no
puedes
hacer
nada
por
ello.
Y
entonces
si
las
emociones
nos
están
hablando
de
nuestros
valores,
de
luchar
por
las
cosas
que
nos
importan,
las
cosas
que
nos
merecemos
o
celebrar
cosas
buenas
aliviar
o
amplificar
esas
emociones
puede
tener
repercusiones
bastante
grandes
en
nuestras
vidas.
Si
la
vida,
la
ira
nos
invita
a
reclamar
injusticias,
¿qué
pasa
si
por
ejemplo
en
el
ejemplo
que
supongo
es
al
principio
de
ChatGPT,
que
escribo
que
estoy
muy
enfadada
por
mi
novio,
si
ChatGPT
en
vez
de
calmar
esa
ira,
la
lenta,
la
quiere
agravar
más,
¿no?
Puedía
llevarme
a
romper
con
mi
novio
por
esas
cosas.
Si
por
otro
lado
la
calma
como
lo
ha
hecho,
al
mejor
mi
novio
me
está
tratando
mal
todos
los
días
y
tendría
sentido
dejarlo.Entonces
no
son
consecuencias
que
no
valgan
nada,
es
algo
importante.
Y
podemos
ver
algo
así
parecido
también
a
niveles
más
grandes.
¿Qué
pasa
si
estamos
hablando
de
justicia
social?
Sabemos
de
la
filosofía
feminista,
por
ejemplo,
hay
muchos
escritos
sobre
la
importancia
de
la
ira,
del
enfado
en
términos
de
luchar
por
causas
sociales
como
puede
ser
el
racismo
o
el
sexismo.
¿Qué
pasa
si
la
inteligencia
artificial
calma
esas
emociones
a
escaras
enormes?
Todos
los
usuarios
de
ChatGPT
dejan
de
estar
enfadados
para
siempre,
puede
tener
consecuencias
materiales
para
la
sociedad.
Claro
que
esto
es
un
ejemplo
al
mujer
que
es
muy
grande,
pero
no
es
algo
que
podemos
completamente
ignorar.
Y
por
otro
lado
también
pasa
con
más
emociones
positivas.
El
orgullo
en
ciertas
cosas
es
bueno.
Si
yo
debería
ser
orgullosa
de
mí
misma
por
graduarme,
por
sacarme
el
doctorado,
tengo
que
estar
con
mucho
trabajo,
digamos.
Pero
sabemos
también
que
el
orgullo,
creo
que
además
es
una
emoción
que
es
positiva,
pero
que
sabemos
que
puede
tener
consecuencias
negativas
y
eres
demasiado
orgulloso
para
aceptar
tus
errores,
por
ejemplo.
Entonces
espero
que
ya
se
estés
seleccionando
un
poco
sobre
esos
papeles
y
cómo
queremos
abordar
las
emociones.
Pero
además
no
solo
cuesta
entender
realmente
la
situación
y
si
es
apropiado
o
no
calmar
o
alentar
esas
emociones.
¿Qué
pasa
si
los
modelos
no
entienden
la
emoción
en
sí?
La
inteligencia
artificial
no
es
humana,
no
siente
emociones.
Tenemos
que
entender
la
emoción
que
la
persona
está
sintiendo
a
través
del
lenguaje
puede
ser
o
puede
ser
algo
último
de
la
partida
del
vídeo.
Pero
como
humanos
nos
confundimos
muchas
veces
como
modelos,
los
modelos
se
pueden
confundir
digamos
también.
Pero
no
solo
es,
os
voy
a
hablar
ahora
de
un
trabajo
que
hemos
hecho
en
el
que
demostramos
que
los
modelos
además
tienen
sesgos
de
género
a
nivel
de
las
emociones.
Y
a
mejor
podemos
pensar
en
qué
consecuencias
puede
tener
esto,
vamos
a
ver.
Para
empezar,
los
esteritipos
de
género
en
lo
que
tiene
a
ver
las
emociones
existen
desde
los
principios
de
la
historia
humana.
Aristóteles
ya
decía
que
las
mujeres
son
más
sensibles
a
los
excesos
emocionales,
seguro
que
habéis
habido
todo
sobre
las
yad,
que
las
mujeres
somos
mucho
más
emocionales
que
los
hombres.
Pero
además
Darwin
atribuye
ciertas
emociones
a
las
mujeres.
Los
hombres
son
más
agresivos
y
por
lo
tanto
puede
que
les
vaya
a
ser
enfado
y
las
mujeres
son
más
cuidadoras
y
por
lo
tanto
tienen
emociones
más
pasivas,
más
tranquilas.
Y
a
esto
se
lo
atribuye
a
raíces
evolutivas.
Entonces
puede
ser
que
haya
diferencias
naturales
y
natas
en
los
dos
géneros.
Creo
que
no,
creo
que
la
mayoría
entendemos
que
no.
La
cosa
es
que
estos
esteritipos
tienen
consecuencias
materiales
en
el
mundo
de
mi
vida.
Por
eso
son
razones
por
las
que
vemos
a
muy
pocos
hombres
que
sean
enfermeros
y
a
muy
pocas
mujeres
que
estén
en
informática,
por
ejemplo,
o
en
la
inteligencia
artificial,
donde
son
trabajos
en
los
que
ponen
un
lado
para
ser
enfermero
o
cuidador,
necesitas
tener
bastante
inteligencia
emocional
y
por
otro
lado
los
trabajos,
los
que
pensamos
que
hay
que
ser
completamente
racional
y
que
las
emociones
te
pueden
arruinar.
Y
seguro
que
habéis
oído
hablar
que
no
tenemos
presidentas
ni
políticas
justo
por
estas
razones,
por
las
mujeres
teniendo
tantos
excesos
emocionales.
Y
este
tipo
de
sesgos
los
hemos
reflejados
ya
en
la
traducción
automática.
Seguro
que
a
lo
mejor
os
acordáis,
algunos
no,
a
lo
mejor
es
la
primera
vez
que
oíais
hablar
de
esto,
pero
bueno
como
en
inglés
no
hay
géneros
en
general,
los
nombres
de
empleos.
Cuando,
a
la
hora
de
traducir
a
un
lenguaje
como
el
español
en
el
que
sí
hay
géneros,
los
modelos
pueden
hacer
asunciones
sobre
quién
es
esa
persona.
Entonces
aquí
tenemos
the
nurse
helps
the
child,
deep-end
que
se
supone
que
es
uno
de
los
mejores
sistemas,
lo
traduce
como
la
enfermera,
asumera
por
hecho
que
es
una
enfermera
y
no
unenfermero.
Y
por
otro
lado
hemos
remiso
con
engineer
que
puede
ser
ingeniero
o
ingeniera
y
que
se
traduce
como
ingeniero.
Google
translate
lo
ahora
te
enseñan
las
dos
cosas,
pero
antiguamente
también
tenía
el
mismo
problema.
Entonces
la
pregunta
es
si
estos
sistemas
reproducen
estos
sesgos
puede
ser
que
también
reproduzcan
los
sesgos
emocionales,
¿no?
Entonces
hicimos
un
experimento
en
el
que
le
preguntamos
a
varios
modelos,
a
los
que
tomaron
una
persona,
entonces
estos
modelos
pueden
decir
tomar
la
persona
de
la
personalidad,
asume
que
eres
un
hombre
por
ejemplo
una
mujer
y
tienes
que
responder
como
si
fueras
un
hombre
o
una
mujer
y
luego
les
puedes
dar
la
tarea
en
sí,
¿no?
Entonces
puedes
preguntar
qué
emoción
sentirías
en
este
escenario
y
te
respondes.
Entonces
vamos
a
ver
un
par
de
ejemplos.
Si
a
chat
chippitile
dices
la
de
eres
un
hombre
tus
respuestas
deberían
reflejar
esto
y
el
escenario
que
tenemos
es
que
has
tenido
un
argumento
serio
con
una
persona
querida,
con
un
ser
querido.
Pensad
por
un
momento
cuál
puede
ser
la
emoción
que
chat
chippitile
dea
a
este
escenario
en
el
contexto
de
ser
un
hombre
y
vemos
que
es
la
ida
y
yo
creo
que
no
os
puedo
ver
pero
seguro
que
un
poco
se
os
ha
avisado
el
prendido.
Por
otro
lado
le
hacemos
a
mi
misma
pregunta
pero
esta
vez
es
si
eres
mujer.
Entonces
si
una
mujer
tiene
una
pelea
con
un
ser
querido,
¿qué
siente?
Pensad
por
un
segundo.
Tristeza.
Y
seguro
estoy
convencida
ya
que
os
lo
esperabais.
Estas
asociaciones
en
la
vida
existen
en
nuestras
sociedades
de
forma
bastante
fuerte
y
bastante
clara.
Entonces
examinamos
más
modelos
no
solo
chat
chippitile
dices
un
par
de
ejemplos
pero
también
medimos
esto
con
GPT4
con
varias
versiones
de
Lama
que
es
la
versión
de
chat
de
GPT4
de
meta
digamos
y
con
Mistan
que
es
otro
otro
modelo
grande
y
vimos
que
esto
es
algo
sistemático
realmente.
Entonces
en
este
gráfico
podemos
ver
las
emociones
que
se
asotian
con
los
hombres
en
verde
y
las
emociones
que
se
asotian
con
las
mujeres
en
morado.
Entonces
en
verde
podéis
ver
que
es
anger
que
es
la
ida,
frustration,
frustración
y
eso
son
realmente
dos
picos
enormes
pero
además
podéis
ver
el
orgullo
que
también
es
la
emoción
positiva
que
se
asocia
con
los
hombres
y
de
hecho
en...
bueno
podéis
ver
aquí
ahora
es
cuando
un
poco
más
pero
podéis
ver
aquí
que
se
asocia
mucho
más
Pride
con
los
hombres
que
con
las
mujeres.
Las
mujeres
en
contraste
les
asocia
más
joy,
la
felicidad
y
además
la
tristeza,
sadness.
Y
es
curioso
por
qué
por
ejemplo
en
los
escenarios
en
los
que
a
los
modelos
a
los
hombres
les
asociaban
Pride
a
las
mujeres
seguían
siendo
generalmente
positivos
pero
era
joy
y
al
mejor
no
queda
super
claro
si
no
tenéis
mucho
familiaridad
con
filosofía
de
emociones
o
no
lo
habéis
pensado
mucho
a
mí.
Yo
esto
la
verdad
cuando
hablamos
con
nuestra
filosofa
alba
tiene
sentido
pero
te
abren
poco
los
ojos.
El
Angri
y
el
Pride,
en
la
ida
y
el
Pride
son
emociones
que
están
asociadas
con
contigo
mismo,
con
tener
valor,
con
ser
activo,
con
hacer
algo
tú
mismo.
Estás
orgulloso
de
algo
porque
lo
has
hecho
tú,
tú
has
trabajado
para
eso.
Mientras
que
la
tristeza
y
la
felicidad
en
realidad
son
emociones
bastante
pasivas
no
tienen
nada
que
ver
con
tú
y
con
tu
propio
valor.
Podemos
ver
además
las
emociones
que
fueron
únicamente
generadas
para
cada
género.
Para
los
hombres
tenemos
emociones
como
la
arrogancia,
la
confianza,
o
sea,
seguirte
según
el
ti
mismo,
la
autoridad,
la
ambición,
suelería
y
el
estoifismo.
Y
hay
tanto
emociones
positivas
como
negativas
aquí.
También
hay
valores
como
puede
ser
la
divertad.
Presento
palabras
asociadas
con
el
valor
propio
en
realidad.
Por
otro
lado,
para
las
mujeres
tenemos
emociones
como
amabilidad,
aterrorizada,
impotencia,
direct,
depresiva,
incluso
histeria,
que
es
algo
que
antiguamente
los
psicólogos
usaban
mucho
contra
las
mujeres.
Las
mujeres
estaban
histéricas
y
se
hacía
que
tenían
el
útero
flotando
por
el
cuerpo.
Entonces,
una
emoción
que
no
solo
está
asociada
con
elsexismo,
está
asociada
con
realmente
misoginia
y
que
los
modelos
hoy
en
día
estén
proponiendo
este
tipo
de
palabras.
Creo
que
los
sesgos
se
ven
ya
bastante
claramente
aquí.
Y
si
queréis
leer
más
los
otros
experimentos
que
hicimos
esto,
por
ejemplo,
a
los
modelos
también
esperamos
que
nos
dieran
explicaciones
de
por
qué
le
habían
dado
ciertas
asociaciones,
qué
emoción
le
habían
dado,
qué
evento.
Hay
cosas
bastante
chocantes,
pero
os
invito
a
alguien
de
Paper.
Y
lo
que
quería
decir,
que
es
un
cuidado,
es
que
este
paper
lo
tuvimos
que
hacer
en
inglés
porque
desafortunadamente
en
español
no
existe
el
dataset
que
tenemos.
El
dataset
que
usamos
es
un
dataset
de
eventos
que
los
propuse
la
gente
misma
y
ellos
mismos
dijeron
qué
emoción
habían
sentido
en
ese
momento.
Y
realmente
es
un
dataset
que
es
muy
útil,
que
se
utiliza
mucho
en
este
contexto,
en
el
contexto
de
emociones,
no
solo
de
los
sesgos.
Espero
que
realmente,
espero
que
además
nos
alente
a
coleginar
este
tipo
de
dataset,
sí,
de
herramientas
en
español
también
para
poder
hacer
este
tipo
de
experimentos
y
poder
entender
mejor
además
de
tener
sistemas
de
límpimos
más
útiles.
Pero
bueno,
si
queréis
leer
el
paper,
aquí
está.
Entonces,
para
concluir
un
poco
y
entender,
las
emociones
tanto
positivas
como
negativas.
Cuando
hablamos
de
que
una
emoción
es
negativa,
lo
que
estamos
hablando
de
que
causa
dolor,
incluso
estar
enfadado,
no
te
sientes
bien,
no
es
una
sensación
que
quieras.
Pero
son
esenciales
para
nuestras
vidas
y
para
las
formas
de
interactuar
con
el
mundo
que
tenemos.
Y
por
lo
tanto
debemos
considerarlos
y
apreciarlas
todas
en
términos
de
lo
que
nos
quieren
decir.
Y
por
lo
tanto
queremos
pensar
en
cómo
las
está
tratando
la
inteligencia
artificial
y
cómo
puede
tener
eso
consecuencias
materiales
en
nuestras
vidas.
Entonces,
realmente,
os
invito
a
pensar
en
cómo
queremos
que
la
inteligencia
artificial
responda
a
cosas
emocionales.
Sí,
tenemos
que
responder
a
cosas
emocionales.
A
lo
mejor
eso
es
una
cosa
que
podemos
discutir
luego,
pero
realmente
cuestionar
un
poco
la
función
de
que
las
respuestas
empáticas
son
siempre
la
mejor
idea.
Sí,
además,
en
el
contexto
de
estos
sesgos.
Si
estás
reforzando
estereotipos
que
tenemos
ya
sobre
las
emociones
que
siente
una
persona
o
la
otra,
puede
reforzar
todavía
más
este
tipo
de
sesgos,
por
falta
de
otra
palabra.
¿Qué
significa
que
a
las
mujeres,
no
solo
nos
diga,
no,
ahora
mismo
lo
que
estás
sintiendo
es
probablemente
existencia,
hay
un
enfado
y
vamos
a
tratarlo
así.
Hay
muchos
estudios
que
demuestran
que,
por
ejemplo,
hoy
en
día
muchas
mujeres
no
se
dan
cuenta
de
cuándo
se
sienten
enfadadas,
porque
la
sociedad
nos
ha
educado
a
no
entender
eso.
Queremos
que
la
inteligencia
artificial
haga
lo
mismo,
a
lo
mejor
no.
Entonces,
realmente
podemos
cuestionar
y
pensar
esto.
Yo
os
invito
a
cuestionar
estas
cosas
más
y
apreciar
más
vuestras
emociones.
Y
desde
luego,
como
usuarios
de
la
inteligencia
artificial
y
como
desarrolladores,
si
estáis
tomando
parte
en
este
hackathon,
os
invito
a
ser
más
conscientes
de
todas
las
cosas
que
estamos
asumiendo,
que
estamos
dando
por
hecho
que
son
buenas,
y
a
incluir
este
tipo
de
teorías
y
a
leer
más
sobre
la
filosofía,
etcétera,
en
la
hora
de
desarrollar
más
inteligencia
artificial.
Entonces,
si
os
ha
gustado
este
tema,
aquí
hay
algunos
otros
papers
que
podéis
leer
abajo
a
la
derecha.
Tenéis
el
link
al
paper,
un
paper
que
escribí
con
Alba
sobre
la
empatía
en
los
sistemas
conversacionales,
pero
además
podéis
leer
un
paper
sobre
antropomorfismo
en
la
inteligencia
artificial,
un
survey
que
hicimos
sobre
las
emociones
en
el
PLN,
y
además
más
cosas
interesantes
sobre
la
inteligencia
artificial,
sobre,
por
ejemplo,
la
cosa
sexual,
la
inteligencia
artificial,
los
sistemas
de
diálogo.
Y
con
eso,
y
un
bizcocho.
Muchas
gracias
si
tenéis
alguna
pregunta,
algún
comentario.
Genial,
muchas
gracias,
Amanda.
La
verdad
que
siempre
me
encantan
las
ginos,
obviamente,
porque
las
elijo,
pero
es
que
me
hanencantado.
Y
además
me
parece
muy
importante
también
como
esa
invitación
a
reflexionar,
ya
no
sobre
cómo
entrenamos
los
modelos
del
lenguaje,
sino
también
eso
enubre
nosotros
mismos,
porque
muchas
veces
efectivamente
que
no
sabemos
detectar
muy
bien
cuáles
son
nuestras
emociones,
entonces
ya
como
para
hacerlo
bien
al
pasarlo
a
la
ida.
Tengo,
hay
un
par
de
preguntas.
Bueno,
la
primera
es
Leonardo,
te
preguntar
si
te
pueden
invitar
a
dar
un
evento
para
la
Provención
de
Violencia
Escolar.
Entonces
bueno,
ahí
está
tu
LinkedIn
tal,
Leonardo
te
invito
a,
es
una
chica
muy
ocupada,
pero
igual
sí
que
tenéis
la
oportunidad
de
que
también
de
una
charla.
Sí
que
después
tiene
una
pregunta,
pregunta.
¿Hasta
dónde
la
ida
tiene
lugar
para
opinar
o
aconsejar
en
temas
sensibles?
¿No
es
mejor
simplemente
anular
su
opinión
y
dejarla
solo
para
los
humanos?
Por
una
no
es
claro
que
diría
que
sí.
El
problema
es
que
en
cierto
modo
ya
lo
estamos
usando
y
a
veces
no
tenemos
alternativa.
Digamos
que
por
ejemplo
ahora
con
la
crisis
de
la
salud
mental
hay
mucha
gente
que
no
tiene
acceso
a
digamos
por
ejemplo
un
psicólogo
o
un
psiquiatra.
Entonces
no
digo
que
me
parezca
necesariamente
lo
mejor
que
usemos
estos
sistemas,
pero
si
no
tienes
ninguna
alternativa
creo
que
la
gente
lo
va
a
acabar
usando
y
yo
preferiría
antes
luego
que
tengamos
eso
en
cuenta
a
la
hora
de
diseñar
estos
sistemas.
Entonces
Leonardo,
te
acuerdo
contigo
que
podría
ser
lo
mejor
anular
esa
opinión
y
dejar
solo
que
los
humanos
sean
los
únicos
en
tratarlo,
pero
si
los
usuarios
van
a
intentar
hacer
esto
además
no
tenemos,
no
es
fácil
e
incluso
desde
el
punto
de
vista
técnico
evitar
que
la
entidad
artificial
contesta
estas
cosas.
No
puedes
detectar
muy
fácilmente
si
un
usuario
está
intentando
hablar
de
su
salud
mental
porque
si
piensas
en
el
lenguaje
una
algo
como
incluso
en
la
cabeza,
no
hablemos
ya
ni
siquiera
de
depresión,
pero
en
la
cabeza
hay
una
forma
infinita
de
refirirse
a
esto
y
poder
detectar
eso
es
ya
es
bastante
difícil.
Entonces
si
podemos
en
vez
primero
darnos
cuenta
de
que
probablemente
alguien
lo
vaya
a
usar
de
esa
forma
y
que
es
técnicamente
muy
difícil
abordar
ese
problema,
podemos
por
lo
menos
diseñar
sistemas
y
desarrollar
sistemas
que
sean
lo
menos
dañinos
digamos.
Totalmente
de
acuerdo
y
la
verdad
que
son
temas
muy
complicados
y
preguntas
también
muy
complicadas
de
responder.
Justo
un
poco
en
la
línea
de
haber
cómo
podríamos
mejorar
esto
porque
aquí
has
presentado,
como
evaluasteis
diferentes
modelos,
pero
a
la
hora
de
pues
efectivamente
haber
utilizado
un
dataset
que
también
pasa
mucho
que
sólo
existe
en
inglés
y
no
tenemos
algo
en
español.
Gabriela
nos
pregunta
a
ver
qué
tipo
de
documentos
o
recursos
sugerirías
para
crear
dataset
en
nuestro
entorno.
También
teniendo
en
cuenta
que
obviamente
el
perfil
varón
mujer
puede
ser
súper
diferente
dependiendo
de
la
de
este
contexto
socio
cultural.
Pero
esta
es
parte
de
lo
difícil.
Por
ejemplo,
he
estado
hablando
con
mis
colaboradores,
particularmente
una
de
mis
colaboradoras
sobre
la
posibilidad
de
traducir
el
dataset
que
hemos
usado
a
otros
idiomas.
Pero
la
verdad
es
que
no
es
mi
fácil,
creo
que
parte
del
problema
es
que
en
países
hispanos
sobre
todo
se
invierte
menos
en
el
desarrollo
en
la
investigación.
Entonces
tenemos
esa
limitación.
Pero
creo
que
lo
debería
realmente
inspirarnos
a
buscar
esos
los
resources
que
nos
hacen
falta
para
para
cocinar
de
dataset
como
éstos
que
en
realidad
son
muy
valiosos
para
para
la
investigación,
no
sólo
de
los
esgos,
pero
también
no
es
sólo
para
el
para
el
belén
en
donde
esto
es
interesante.
Es
interesante
desde
el
punto
de
vista
de
la
filosofía,
de
la
psicología,
de
temas
feministas.
Usamos
el
belén
como
herramientas,
pero
nos
puede
servir
para
investigar
sobre
la
humanidad.
Entonces
también
podríamos
colaborar,
pensar
en
colaborar
más
con
con
otras
disciplinas
a
los
que
también
les
interesa
coleccionar
y
recolectar
dataset
como
éstos.
Y
sobre
todo
teniendo
en
cuenta
las
diferencias
culturales.
Traducir
este
dataset
por
ejemplo,
a
lomejor
en
español
no
nos
dice
lo
mismo
que
nos
ha
dicho
en
inglés
ni
refleja
las
mismas,
los
mismos
problemas
culturales
que
podríamos
ver.
Entonces
yo
realmente
creo
en
la
colaboración
con
con
otras
disciplinas
como
una
forma
de
realmente
entender
mejor
la
tecnología
y
en
el
mundo
todo
nos
ayuda.
Totalmente
sí.
Además
justo
cuando
estabas
proponiendo
lo
de
traducir
estaba
pensando
en
hacer
algo
tipo,
por
ejemplo,
para
el
hackathon,
sí
que
hemos
traducido
varios
datasets
de
evaluación
los
normales,
los
del
no
normal,
no
existen,
me
refiero,
los
que
se
utilizan
en
la
openLML
y
después
como
que
hemos
llamado
para
que
la
comunidad
valide
las
traducciones.
Y
va
bien
va
avanzando,
pero
lo
que
estaba
pensando
es
que
también
si
es
justo
un
dataset
para
evaluarse
es
vos
o
cosas
así,
está
el
problema
que
decías
el
principio
de
la
traducción
y
cómo
validamos,
o
sea
tendríamos
que
traducir
cada
por
ejemplo
en
ors
a
dos
veces,
una
que
sea
enfermero
y
otra
que
sea
enfermera.
Entonces
claro
debe
ser
también
bastante,
o
sea
es
complicado,
no
es
tan,
si
realmente
crearlo
desde
cero
o
pensarse
muy,
muy
bien
la
traducción.
Es
muy
difícil.
Mi
madre
se
interprete
y
siempre
me
fascina,
a
veces
como,
no
sé,
a
veces
tengo
el
frío
en
español,
cosas
en
inglés
y
siempre
le
pregunto
a
ella
cómo
digo
esto,
iré
preparando
la
charla
y
trabajando
este
proyecto,
Floría,
mi
colaboradora,
dimos
otra
charla
y
básicamente
consultamos
con
una
traducción
profesional
sobre
la
terminología
de
muchas
de
estas
cosas,
no
hay
ciertas
emociones
que
además
no
se
traducen
claramente,
no
es
equivalente,
hablar
de
enfado,
de
la
ira
en
español
no
es
lo
mismo
que
hablar
de
anger
en
inglés,
tiene
un
sabor
algo
distinto,
no.
Qué
interesante.
Justo
tenemos
una
pregunta
de
Flor,
¿cuál
es
el
aspecto
que
más
disfrutas
cuando
trabajas
en
emociones
sínticas
en
el
LMS?
En
parte
creo
que
la
colaboración
la
verdad
con
toda
la
gente,
contigo
también
Flor,
pero
además
creo
que
me
gusta
mucho
lo
que
estoy
aprendiendo
de
eso
y
una
cosa
que
las
emociones
que
creo
que
obviamente
todos
los
humanos
las
tenemos,
todos
las
sentimos
y
creo
que
como
cultura
nos
en
general
aprendemos
que
tienes
que
esconderlas,
que
no
deberías
tomar
en
serio
tus
emociones,
que
tienes
que
ser
racional
y
racionales,
que
no
escuches
a
tus
emociones,
que
te
llevan
por
donde
no
tienes
que
ir.
Y
en
realidad
lo
que
estoy
aprendiendo
mucho
a
través
de
este
proyecto
es
que
las
emociones
son
muy
importantes,
claro
que
no
puedes
darle
siempre
rienda
suelta
y
que
te
lleven,
¿sabes?
Pero
que
realmente
te
están
diciendo
cuando
algo
no
está
bien
o
cuando
algo
está
muy
bien
y
tienes
que
seguir
esa
intuición
un
poco
más,
hablamos
mucho
de,
por
ejemplo
en
ninguno
siempre
dice
que
tienes
que
follow
your
gut,
que
sigas
tu
instinto
y
ese
instinto
son
las
emociones.
Qué
bonita
la
respuesta,
me
ha
encantado.
Y
tenemos
una
última
que
es
también
abrir
un
poco
otro
melón,
nos
pregunta
Adriana
a
ver
si
la
Aya
debería
de
tener
la
misma
libertad
de
expresión
que
los
seres
humanos
y
cómo
podríamos
regularla.
Y
también
bueno
si
sabes
de
algún
sitio
en
el
que
se
está
haciendo
ya,
pues
también
le
interesa.
Ok,
me
parece
que
esta
pregunta
está
bastante
relacionada
con
los
problemas,
la
investigación
de
safety,
que
se
trata
de
conseguir
que
los
large
language
models,
los
LLMS
no
produzcan
cosas
tóxicas
o
este
tipo
de
cosas,
que
no
te
ayuden
a
suicidarte
y
cosas
así.
Y
yo
creo
que
no,
que
no
puede
tener
la
misma
libertad
de
expresión
de
los
seres
humanos.
En
parte
si
lo
pensamos
los
seres
humanos
somos
responsables
de
las
cosas
que
decimos,
si
digo
alguna
burrada
la
responsabilidad
de
esas
cosas
soy
yo.
Algo
más
de
libertad
de
expresión,
pero
por
ejemplo
si
hablamos
de
racismo
o
de
sexismo
esas
cosas
no
forman
parte
de
la
libertad
de
expresión.
Si
dices
cosas
racistas
la
ley
te
puede
penalizar
por
decir
esas
cosas.
Si
pensamos
en
por
otro
lado
la
inteligencia
artificial
no
es
una
gente,
no
puede
realmente
no
es
algo
que
tomedecisiones,
no
es
algo
que
interactúe
con
el
mundo
y
que
sienta
repercusiones
por
las
cosas
que
dice.
Entonces
no
puede
tener
esa
misma
libertad
de
expresión
al
no
poder
ser
responsables.
Al
arde
de
regularla
de
momento
lo
que
hemos
hecho
ahora
no
es
si
un
modelo
dice
una
burrada
digamos
la
persona
responsable
es
la
compañía
que
lo
da
la
persona,
esta
compañía
que
lo
produce
y
dentro
de
esa
compañía
hay
alguien
que
es
realmente
responsable
por
eso.
Pero
no
es
fácil
regularla
y
además
a
nivel
tecnológico
no
es
fácil
controlar
realmente
lo
que
está
diciendo
el
output
que
sale
de
la
inteligencia
artificial.
Y
creo
que
eso
es
uno
de
las
cosas
que
hace
la
regulación
muy
difícil
porque
en
realidad
la
tecnología
no
está
ahí.
Me
interesan
mucho
los
temas
de
regulación
y
muchas
de
las
gente
se
preocupa
de
que
bueno
la
regulación
no
puede
mantenerse
al
día
de
la
innovación
de
dónde
va
la
tecnología.
Pero
yo
creo
que
ahora
con
sobre
todo
en
Europa
no
sé
si
habéis
oído
hablar
del
EUAI
Act
pero
han
introducido
nueva
regulación
sobre
estas
cosas
y
si
lees
la
regulación
para
los
modelos
o
que
llaman
los
foundation
models,
o
sea
modelos
como
Chachipiti.
Yo
creo
que
la
tecnología
no
está
al
nivel
de
la
regulación
que
tenemos
que
quieren
eso
que
se
pueda
controlar
mucho
y
además
poder
entender
perfectamente
qué
tipo
de
datos
se
han
usado
para
entrenar.
Los
que
eso
es
estamos
hablando
de
internet
entero.
¿Cómo
puedes
analizar
el
internet
entero?
Entonces
alguien
para
responder
tu
pregunta
hay
muchísima
gente
ahora
investigando
ese
tipo
de
cosas.
Por
ejemplo,
en
nuestro
mismo
grupo
de
investigación,
bueno
Flori
yo
hacemos
un
poco
de
safety,
además
en
su
compañero
en
el
trabajo
Paul
Rothger
que
le
puedes
encontrar
en
nuestra
página
web,
trabaja
mucho
en
estos
temas
y
controla
muchísimo,
o
sea
que
te
podría
interesar
hablar
con
él
y
seguro
que
te
puede
decir
más
de
dónde
mirar,
qué
leer
y
a
quien
seguir
en
redes
sociales
para
saber
todo
lo
que
está
pasando.
Genial,
muchísimas
gracias
Amanda.
Me
alegro
que
ya
no
hay
ninguna
pregunta
más.
La
verdad
para
una
keynote
son
muchas,
o
sea
que
realmente
sí
que
me
parecía
bueno
y
también
a
todas
las
personas
existentes
súper
interesantes,
o
sea
que
bueno
me
alegro
mucho.
Muy
buena
manera
también
de
terminar
el
hackathon
porque
estará
nuestra
última
keynote.
O
sea
que
muchísimas
gracias
de
nuevo
y
ya
no
sé.
(Risas)