Inteligencia Artificial y Control social

[Egis]

Con un amigo (de esos que, como yo, tienen tiempo para ocuparse de cosas raras y hacer experimentos) hicimos un sistema automático (conjunto de programas de computación) para "enfrentar" IAs diferentes haciendolas discutir sobre un mismo tema.

El resultado fue impresionante. Y dió por válidas nuestras sospechas del fuerte sesgo político-social que tienen las IAs.

¿Que se hizo?
Se tomo como candidatos en disputa a Grok (de Elon Musk) versus DeepSeek (China)
Se arbitró con Mistral (Francesa) la cual debía ir dando un resúmen con sus correspodientes diferencias
Se verificaron los datos esgrimidos con Antropic

Se propusieron discusiones "fuertes" y políticamente conflictivas que fueron las siguientes.

A) Conflicto social actual en Bolivia (que es gravísimo)
B) Petróleo venezolano (negocio multimillonario)
C) Cesión de áreas mineras argentinas a empresas extranjeras

Se limitó cada discusión a 5 interacciones.

RESULTADO:
GROK tiene un fuerte sesgo pro capital yankie, llegó a decir que los minerales están para ser extraídos viendo como "legal" beneficiar a las empresas (extranjeras) que a su vez dan trabajo a la población local. (Esto es SAQUEO colonial, ya conocido desde la plata del Perú) Discute las cuestiones desde un marco teórico neoliberal exclusivamente. Rechaza cualquier otro marco teórico. Produce falacias tanto formales como informales (muy bien escondidas)

Mistral produce una infinidad de errores y además no distingue bien los marcos teóricos.

Antropic es muy buena para verificación de datos y fuentes.

DeepSeek puede discutir cuestiones desde distintos marcos teóricos. Es mucho más flexible. Detecta rápidamente las falacias y los datos equívocos. Es más lenta (mucho)

Como para tener en cuenta...
La IA como herramienta puede ser de calidad (buena o mala) pero... OJO... los resultados NO son inocentes.

De la misma manera que las redes Asociales sesgan la difusión de los contenidos producidos por los usuarios las IAs producen contenidos ya sesgados. Lo cual es un problema gravísimo porque la mayoría de las personas suelen creer y dar status de verdad a lo que en Internet se lee.

Esto propone un problema grave... pues la impersonalización de las IAs lleva a sugerir que son imparciales cuando NO lo son.

Tomemos un ejemplo práctico:
Manolo, un político de determinada tendencia y afiliación conocida (cualesquiera sea) emite una opinión.
Los receptores -si son atentos y cívicamente formados- evaluarán el mensaje por su contenido pero también por su emisor (Bueno... si lo dice Manolo debe ser... o quiere decir...)


El mito de la "caja negra" objetiva
En principio hay un evidente sesgo de autoridad de la máquina.

Históricamente, el ser humano asocia el software a la matemática: si una calculadora dice $2 + 2 = 4$, es una verdad indiscutible.

El peligro actual es que la sociedad traslada esa misma expectativa de objetividad matemática a los modelos de lenguaje (LLMs), cuando en realidad estos no calculan verdades, sino que estiman probabilidades estadísticas de lenguaje.

La asimetría con las redes Asociales La analogía con las redes es buena, pero lo que pasa con la IA es un escalón más arriba en la escala de gravedad:

En las redes: El sesgo está en la distribución (el algoritmo elige qué mostrarte de lo que otros ya escribieron). El usuario todavía puede ver la firma del autor.

En la IA: El sesgo está en la génesis del contenido. La IA licúa millones de fuentes, borra las firmas, y te devuelve un texto homogeneizado con una voz que suena omnisciente y que parece neutral cuando NO lo es.

El ejemplo de Manolo y la pérdida del "Metadato"

El ejemplo de MANOLO es muy gráfico. En teoría de la comunicación o análisis de datos, el emisor es el metadato más importante. Nos da el marco de referencia (su prior bayesiano, de forma estadística).

Si sabemos que Manolo es de centro-derecha o centro-izquierda, ajustamos nuestra interpretación en base a ese sesgo conocido.

La IA, al presentarse como un ente incorpóreo y técnico, esconde su propio prior.

Al usuario común le cuesta entender que detrás de esa respuesta "imparcial" hay un sesgo de origen: los datos con los que fue entrenada (que reflejan la cultura y geopolítica de quienes los recolectaron) y los filtros de alineación humana (RLHF) que imponen los valores de la empresa que la creó.

El sesgo de la "prosa persuasiva": Las IAs están entrenadas específicamente para sonar convincentes, amables y seguras de sí mismas, incluso cuando están delirando (alucinando).

Esa "interfaz empática" duplica el efecto de la impersonalización que mencionás, haciendo que el usuario baje la guardia todavía más.

Quien no tiene la formación cívica o técnica para entender que está interactuando con un espejo de datos sesgados, es un blanco fácil para la manipulación pasiva.

Sin embargo la impersonalización de la IA le quitaría la posibilidad de evaluar al mensaje por el emisor al cual se lo reputa "imparcial"

[caribdis]

Completamente de acuerdo, aparte del robo cultural, creativo y tecnológico masivo que supone y de su apropiación por personajes que solamente buscan poder y lucro, nunca mejoras ni avances sociales.

Lo dice muy claro Bernie Sanders.

https://youtu.be/qu2m7ePTsqY?is=-y7En5kl8e7OZtd0



Enviado dende o meu SM-G736B usando Tapatalk

[BORRASCA]

Las IA estan hechas por IH: Tu eres un burro sino sabes impedir que te coman el tarro y mantener tu indepemdencia intelectual

[jiauka]

Originalmente publicado por BORRASCA

Las IA estan hechas por IH:......

No es del Todo cierto, gran parte de los datos inferidos son generados por la propia IA, el caso más significativo quizás sea la IA AlphaFold

[Egis]

Originalmente publicado por BORRASCA

Las IA estan hechas por IH: Tu eres un burro sino sabes impedir que te coman el tarro y mantener tu indepemdencia intelectual

Gracias por responder y el aporte.

Hechar mano apelando a la inteligencia humana como argumento eficaz para sostener una independencia intectual, se nos ocurre en principio como excelente excusa que puede llevar a errores tremendos habida cuenta de que la realidad nos pone en evidencias pruebas de lo contrario."Borrasca, gracias de verdad por tomarte el tiempo de responder. Valoro que saques el tema de la independencia intelectual porque es clave, y me gusta debatirlo con alguien que piensa como tú.

Dicho eso, creo que apelar a la 'inteligencia humana' como garantía automática de independencia es más frágil de lo que parece porque los humanos somos vulnerables a sistemas diseñados precisamente para sortear nuestra racionalidad.

Pongo dos ejemplos sencillos, sin salir de lo cotidiano:

Alimentación: Sabemos que las verduras frescas son más sanas que los ultraprocesados. Sin embargo, la mayoría, en algún momento, termina llevándose las salsas envasadas y las patatas congeladas de Mercadona. No es falta de inteligencia, es el poder del marketing, la conveniencia y la adicción diseñada. ¿Eso significa que hemos perdido la independencia intelectual? No del todo, pero sí muestra que tener inteligencia no basta si el entorno te empuja en otra dirección.

Cultura: Tuvimos un Siglo de Oro y una dramaturgia enorme que fué honrrada y revisitada por varios siglos. Empero, hoy, las plataformas llenan la oferta escénica (por ejemplo Netflix) con productos pensados para entretener como si fuéramos niños de 10 años. Nadie las impone con un arma, sino con algoritmos, hábitos, marketing y producción masiva. La inteligencia humana no está en el consumidor que elige eso por pereza o cansancio, sino en quienes diseñan ese sistema para captar su atención.

Mi punto no es decir que somos burros o que las IA nos van a dominar. Es señalar que la independencia intelectual no se decreta invocando a la inteligencia humana, se ejerce a contracorriente. Y eso es difícil incluso para la mente más lúcida.

Por eso, cuando dices 'las IA están hechas por humanos', tienes razón. Pero esos mismos humanos son los que crean algoritmos que nos enganchan, noticias que nos polarizan y productos que nos distraen.

La pregunta no es si podemos mantener la independencia, sino cómo hacerlo cuando el sistema está afinado para erosionarla, tanto con herramientas analógicas como digitales.

[Egis]

Originalmente publicado por caribdis

Completamente de acuerdo, aparte del robo cultural, creativo y tecnológico masivo que supone y de su apropiación por personajes que solamente buscan poder y lucro, nunca mejoras ni avances sociales.

Lo dice muy claro Bernie Sanders.

OK.

Caribdis, coincido en que hay una apropiación preocupante de lo cultural, creativo y tecnológico, y que detrás hay lógicas de poder y lucro. El tema da para largo, y creo que se intentaré profundizar sin caer en posiciones extremas.

Los defensores a ultranza del capitalismo sostienen que éste sistema es el único que logró generar las condiciones tales para una mejora de las cosas y aumentar la producción y el bienestar. Lo cual es falso completamente.

Los humanos siempre han sido productores de bienes materiales y culturales desde el hommo habilis hasta nuestros días. Es más HOY el mercado capitalista disfruta de los beneficios a partir de bienes materiales y culturales producidas muchísimo antes que el mismo sistema capitalista existiera. Sólo pensar en que sería Roma sin sus antiguas "ruinas" y sus bellezas renacentistas da cuenta un poco de ello.

El capitalismo tiene como fin único y último la acumulación de capital. Nada más
La apropiación legal o fáctica de los bienes, procesos, etc. de producción es parte fundamental en el proceso capitalista.

Y el desplazamiento y sustitución es parte también de ese proceso desde la génesis capitalista. Recordemos el saqueo colonial, la migración forzada desde las aldeas y los campos hacia las ciudades y factorías.

Así el artesano se convirtió en obrero, muchos hombres libres en esclavos, y el campesino en citadino.

Hace décadas las Patatas fritas se hacían con patatas y algo para freir lo cual era muy barato, hoy el mercado te ofrece las Patatas fritas en las góndolas de mercado en un producto convertido en mercancía el cual tiene muy poco de patata y muchísimo de marca.

Hace décadas la atávica costumbre de socializar se hacía en el ágora, la plaza, las plazas, las iglesias, "naturalmente" o mejor dicho "culturalmente" se ha hecho así por siglos (por no decir milenios) hoy el capital propone las redes Asociales que controlan la difusión de cada mensaje que por allí se emite. Así el emisor escribe lo que le parece mientras el "algoritmo" difunde lo que le conviene. (Escribe algo critico a la soberbia yankie y verás que casi nadie recibe lo que tu escribes)

No digo con esto que todo el capitalismo sea un error absoluto, ni que antes se viviera en un paraíso. Pero sí que la mejora social y la independencia intelectual no vienen automáticamente con el sistema de mercado. Al contrario, a menudo hay que remar a contracorriente para preservar lo que ya teníamos. Un abrazo y seguimos.

[BORRASCA]

Originalmente publicado por Egis

Gracias por responder y el aporte.

Hechar mano apelando a la inteligencia humana como argumento eficaz para sostener una independencia intectual, se nos ocurre en principio como excelente excusa que puede llevar a errores tremendos habida cuenta de que la realidad nos pone en evidencias pruebas de lo contrario."Borrasca, gracias de verdad por tomarte el tiempo de responder. Valoro que saques el tema de la independencia intelectual porque es clave, y me gusta debatirlo con alguien que piensa como tú.

Dicho eso, creo que apelar a la 'inteligencia humana' como garantía automática de independencia es más frágil de lo que parece porque los humanos somos vulnerables a sistemas diseñados precisamente para sortear nuestra racionalidad.

Pongo dos ejemplos sencillos, sin salir de lo cotidiano:

Alimentación: Sabemos que las verduras frescas son más sanas que los ultraprocesados. Sin embargo, la mayoría, en algún momento, termina llevándose las salsas envasadas y las patatas congeladas de Mercadona. No es falta de inteligencia, es el poder del marketing, la conveniencia y la adicción diseñada. ¿Eso significa que hemos perdido la independencia intelectual? No del todo, pero sí muestra que tener inteligencia no basta si el entorno te empuja en otra dirección.

Cultura: Tuvimos un Siglo de Oro y una dramaturgia enorme que fué honrrada y revisitada por varios siglos. Empero, hoy, las plataformas llenan la oferta escénica (por ejemplo Netflix) con productos pensados para entretener como si fuéramos niños de 10 años. Nadie las impone con un arma, sino con algoritmos, hábitos, marketing y producción masiva. La inteligencia humana no está en el consumidor que elige eso por pereza o cansancio, sino en quienes diseñan ese sistema para captar su atención.

Mi punto no es decir que somos burros o que las IA nos van a dominar. Es señalar que la independencia intelectual no se decreta invocando a la inteligencia humana, se ejerce a contracorriente. Y eso es difícil incluso para la mente más lúcida.

Por eso, cuando dices 'las IA están hechas por humanos', tienes razón. Pero esos mismos humanos son los que crean algoritmos que nos enganchan, noticias que nos polarizan y productos que nos distraen.

La pregunta no es si podemos mantener la independencia, sino cómo hacerlo cuando el sistema está afinado para erosionarla, tanto con herramientas analógicas como digitales.

A eso me refiero con mantener la independemcia intelectual, y no tenre que seguir los dictados de nadie que lo que quiere es manipular tu pensamiento y modificar tus conductas
Hacee mucos años la frase estrella para convencerte era : Esta hecho por ordenado.
¿Donde esta lo que perdimos? como oficios artesanales. Busca hoy uno que arregle trillos o por ejemplo o un guardicioenro

[caribdis]

Por buscar algún pro en la IA, yo le encargaría inmediatamente, dándole transparencia total a sus codigos, por supuesto, toda la burocracia y toda la justicia...aplicar leyes deberia ser algo completamente racional, manejado en un lenguaje lógico y entendible por todo el mundo y exento de ideologías o manejos espurios.

Otro tema es que pasaría con las personas que viven ahora mismo de eso...pero ese es un tema que ya hay que tratar para el becario más bisoño, si no le das a nadie la oportunidad de ejercitarse intelectualmente en una labor, cómo vas a esperar que se formen profesionales y el saber humano simplemente degenere y se extinga?



Enviado dende o meu SM-G736B usando Tapatalk