Tweet
Con un amigo (de esos que, como yo, tienen tiempo para ocuparse de cosas raras y hacer experimentos) hicimos un sistema automático (conjunto de programas de computación) para "enfrentar" IAs diferentes haciendolas discutir sobre un mismo tema.
El resultado fue impresionante. Y dió por válidas nuestras sospechas del fuerte sesgo político-social que tienen las IAs.
¿Que se hizo?
Se tomo como candidatos en disputa a Grok (de Elon Musk) versus DeepSeek (China)
Se arbitró con Mistral (Francesa) la cual debía ir dando un resúmen con sus correspodientes diferencias
Se verificaron los datos esgrimidos con Antropic
Se propusieron discusiones "fuertes" y políticamente conflictivas que fueron las siguientes.
A) Conflicto social actual en Bolivia (que es gravísimo)
B) Petróleo venezolano (negocio multimillonario)
C) Cesión de áreas mineras argentinas a empresas extranjeras
Se limitó cada discusión a 5 interacciones.
RESULTADO:
GROK tiene un fuerte sesgo pro capital yankie, llegó a decir que los minerales están para ser extraídos viendo como "legal" beneficiar a las empresas (extranjeras) que a su vez dan trabajo a la población local. (Esto es SAQUEO colonial, ya conocido desde la plata del Perú) Discute las cuestiones desde un marco teórico neoliberal exclusivamente. Rechaza cualquier otro marco teórico. Produce falacias tanto formales como informales (muy bien escondidas)
Mistral produce una infinidad de errores y además no distingue bien los marcos teóricos.
Antropic es muy buena para verificación de datos y fuentes.
DeepSeek puede discutir cuestiones desde distintos marcos teóricos. Es mucho más flexible. Detecta rápidamente las falacias y los datos equívocos. Es más lenta (mucho)
Como para tener en cuenta...
La IA como herramienta puede ser de calidad (buena o mala) pero... OJO... los resultados NO son inocentes.
De la misma manera que las redes Asociales sesgan la difusión de los contenidos producidos por los usuarios las IAs producen contenidos ya sesgados. Lo cual es un problema gravísimo porque la mayoría de las personas suelen creer y dar status de verdad a lo que en Internet se lee.
Esto propone un problema grave... pues la impersonalización de las IAs lleva a sugerir que son imparciales cuando NO lo son.
Tomemos un ejemplo práctico:
Manolo, un político de determinada tendencia y afiliación conocida (cualesquiera sea) emite una opinión.
Los receptores -si son atentos y cívicamente formados- evaluarán el mensaje por su contenido pero también por su emisor (Bueno... si lo dice Manolo debe ser... o quiere decir...)
El mito de la "caja negra" objetiva
En principio hay un evidente sesgo de autoridad de la máquina.
Históricamente, el ser humano asocia el software a la matemática: si una calculadora dice $2 + 2 = 4$, es una verdad indiscutible.
El peligro actual es que la sociedad traslada esa misma expectativa de objetividad matemática a los modelos de lenguaje (LLMs), cuando en realidad estos no calculan verdades, sino que estiman probabilidades estadísticas de lenguaje.
La asimetría con las redes Asociales La analogía con las redes es buena, pero lo que pasa con la IA es un escalón más arriba en la escala de gravedad:
En las redes: El sesgo está en la distribución (el algoritmo elige qué mostrarte de lo que otros ya escribieron). El usuario todavía puede ver la firma del autor.
En la IA: El sesgo está en la génesis del contenido. La IA licúa millones de fuentes, borra las firmas, y te devuelve un texto homogeneizado con una voz que suena omnisciente y que parece neutral cuando NO lo es.
El ejemplo de Manolo y la pérdida del "Metadato"
El ejemplo de MANOLO es muy gráfico. En teoría de la comunicación o análisis de datos, el emisor es el metadato más importante. Nos da el marco de referencia (su prior bayesiano, de forma estadística).
Si sabemos que Manolo es de centro-derecha o centro-izquierda, ajustamos nuestra interpretación en base a ese sesgo conocido.
La IA, al presentarse como un ente incorpóreo y técnico, esconde su propio prior.
Al usuario común le cuesta entender que detrás de esa respuesta "imparcial" hay un sesgo de origen: los datos con los que fue entrenada (que reflejan la cultura y geopolítica de quienes los recolectaron) y los filtros de alineación humana (RLHF) que imponen los valores de la empresa que la creó.
El sesgo de la "prosa persuasiva": Las IAs están entrenadas específicamente para sonar convincentes, amables y seguras de sí mismas, incluso cuando están delirando (alucinando).
Esa "interfaz empática" duplica el efecto de la impersonalización que mencionás, haciendo que el usuario baje la guardia todavía más.
Quien no tiene la formación cívica o técnica para entender que está interactuando con un espejo de datos sesgados, es un blanco fácil para la manipulación pasiva.
Sin embargo la impersonalización de la IA le quitaría la posibilidad de evaluar al mensaje por el emisor al cual se lo reputa "imparcial"
El resultado fue impresionante. Y dió por válidas nuestras sospechas del fuerte sesgo político-social que tienen las IAs.
¿Que se hizo?
Se tomo como candidatos en disputa a Grok (de Elon Musk) versus DeepSeek (China)
Se arbitró con Mistral (Francesa) la cual debía ir dando un resúmen con sus correspodientes diferencias
Se verificaron los datos esgrimidos con Antropic
Se propusieron discusiones "fuertes" y políticamente conflictivas que fueron las siguientes.
A) Conflicto social actual en Bolivia (que es gravísimo)
B) Petróleo venezolano (negocio multimillonario)
C) Cesión de áreas mineras argentinas a empresas extranjeras
Se limitó cada discusión a 5 interacciones.
RESULTADO:
GROK tiene un fuerte sesgo pro capital yankie, llegó a decir que los minerales están para ser extraídos viendo como "legal" beneficiar a las empresas (extranjeras) que a su vez dan trabajo a la población local. (Esto es SAQUEO colonial, ya conocido desde la plata del Perú) Discute las cuestiones desde un marco teórico neoliberal exclusivamente. Rechaza cualquier otro marco teórico. Produce falacias tanto formales como informales (muy bien escondidas)
Mistral produce una infinidad de errores y además no distingue bien los marcos teóricos.
Antropic es muy buena para verificación de datos y fuentes.
DeepSeek puede discutir cuestiones desde distintos marcos teóricos. Es mucho más flexible. Detecta rápidamente las falacias y los datos equívocos. Es más lenta (mucho)
Como para tener en cuenta...
La IA como herramienta puede ser de calidad (buena o mala) pero... OJO... los resultados NO son inocentes.
De la misma manera que las redes Asociales sesgan la difusión de los contenidos producidos por los usuarios las IAs producen contenidos ya sesgados. Lo cual es un problema gravísimo porque la mayoría de las personas suelen creer y dar status de verdad a lo que en Internet se lee.
Esto propone un problema grave... pues la impersonalización de las IAs lleva a sugerir que son imparciales cuando NO lo son.
Tomemos un ejemplo práctico:
Manolo, un político de determinada tendencia y afiliación conocida (cualesquiera sea) emite una opinión.
Los receptores -si son atentos y cívicamente formados- evaluarán el mensaje por su contenido pero también por su emisor (Bueno... si lo dice Manolo debe ser... o quiere decir...)
El mito de la "caja negra" objetiva
En principio hay un evidente sesgo de autoridad de la máquina.
Históricamente, el ser humano asocia el software a la matemática: si una calculadora dice $2 + 2 = 4$, es una verdad indiscutible.
El peligro actual es que la sociedad traslada esa misma expectativa de objetividad matemática a los modelos de lenguaje (LLMs), cuando en realidad estos no calculan verdades, sino que estiman probabilidades estadísticas de lenguaje.
La asimetría con las redes Asociales La analogía con las redes es buena, pero lo que pasa con la IA es un escalón más arriba en la escala de gravedad:
En las redes: El sesgo está en la distribución (el algoritmo elige qué mostrarte de lo que otros ya escribieron). El usuario todavía puede ver la firma del autor.
En la IA: El sesgo está en la génesis del contenido. La IA licúa millones de fuentes, borra las firmas, y te devuelve un texto homogeneizado con una voz que suena omnisciente y que parece neutral cuando NO lo es.
El ejemplo de Manolo y la pérdida del "Metadato"
El ejemplo de MANOLO es muy gráfico. En teoría de la comunicación o análisis de datos, el emisor es el metadato más importante. Nos da el marco de referencia (su prior bayesiano, de forma estadística).
Si sabemos que Manolo es de centro-derecha o centro-izquierda, ajustamos nuestra interpretación en base a ese sesgo conocido.
La IA, al presentarse como un ente incorpóreo y técnico, esconde su propio prior.
Al usuario común le cuesta entender que detrás de esa respuesta "imparcial" hay un sesgo de origen: los datos con los que fue entrenada (que reflejan la cultura y geopolítica de quienes los recolectaron) y los filtros de alineación humana (RLHF) que imponen los valores de la empresa que la creó.
El sesgo de la "prosa persuasiva": Las IAs están entrenadas específicamente para sonar convincentes, amables y seguras de sí mismas, incluso cuando están delirando (alucinando).
Esa "interfaz empática" duplica el efecto de la impersonalización que mencionás, haciendo que el usuario baje la guardia todavía más.
Quien no tiene la formación cívica o técnica para entender que está interactuando con un espejo de datos sesgados, es un blanco fácil para la manipulación pasiva.
Sin embargo la impersonalización de la IA le quitaría la posibilidad de evaluar al mensaje por el emisor al cual se lo reputa "imparcial"
Comentario