LA REIFICACIÓN (COSIFICACIÓN) DEL DATO Y LA TRAGEDIA DE LA CAJA NEGRA: HACIA UNA CRÍTICA DE LA RAZÓN ALGORÍTMICA EN LA CIENCIA CONTEMPORÁNEA

Profesor Humberto Cárdens, Ph.D.*

RESUMEN:

El presente artículo analiza el impacto epistemológico y político de la Inteligencia Artificial (IA) en el Marco de la Ciencia Moderna Clásica desde la perspectiva de la Teoría Crítica. 

Se sostiene que la transición hacia Modelos Predictivos de "Caja Negra" representa la consumación de la razón instrumental y la reificación del dato, desplazando la inteligibilidad científica por la pura eficacia predictiva. A través de la articulación del concepto de violencia epistémica de Gayatri Spivak (1988) y el Teorema de Imposibilidad de Jon Kleinberg, se demuestra la inmanencia ideológica y la tragedia axiológica oculta tras la pretendida neutralidad matemática de los algoritmos.

Finalmente, recurriendo a las tesis de Langdon Winner, Gilbert Simondon y la Teoría de la Acción Comunicativa de Jürgen Habermas, se propone conceptualizar la Inteligencia Artificial Explicable (XAI) no como un mero protocolo técnico, sino como una prótesis intersubjetiva de emancipación democrática frente a la gubernamentalidad algorítmica.

Abstract:

This article analyzes the epistemological and political impact of Artificial Intelligence (AI) within the framework of Classical Modern Science from the perspective of Critical Theory. It argues that the transition toward "black-box" predictive models represents the consummation of instrumental reason and the reification of data, displacing scientific intelligibility in favor of pure predictive efficacy. By articulating Gayatri Spivak's concept of epistemic violence with Jon Kleinberg's Impossibility Theorem, the paper demonstrates the ideological immanence and axiological tragedy concealed beneath the alleged mathematical neutrality of algorithms. Finally, drawing upon the theses of Langdon Winner, Gilbert Simondon, and Jürgen Habermas's Theory of Communicative Action, it proposes to conceptualize Explainable Artificial Intelligence (XAI) not as a mere technical protocol, but as an intersubjective prosthesis for democratic emancipation against algorithmic governmentality.

I. INTRODUCCIÓN. -

La irrupción de la Inteligencia Artificial (IA) en el horizonte de la investigación contemporánea no puede seguir siendo leída bajo el signo ingenuo de la mera transición instrumental.

La narrativa tecnocrática dominante insiste en presentar a los Modelos de Aprendizaje Profundo (Deep Learning) como extensiones cuantitativas del ojo humano; una suerte de microscopio hiperpotente capaz de procesar el Big Data de manera aséptica.

Sin embargo, un examen crítico revela una mutación civilizatoria de orden mayor: La IA representa la emergencia de un nuevo corpus epistemológico que se abre espacio a través de la fractura del espacio epistémico de la Ciencia Moderna Clásica.

Aquel edificio metodológico erigido desde la Ilustración sobre los pilares de la causalidad mecánica, la formulación de hipótesis falsables y la transparencia del sujeto cartesiano está siendo desplazado por un paradigma post-positivista de la opacidad. En este nuevo territorio, la inteligibilidad del fenómeno ha sido intercambiada por la pura eficacia de la predicción probabilística.

Este desplazamiento metodológico no es neutral; encarna la radicalización de la razón instrumental denunciada por Max Horkheimer y Theodor Adorno. Cuando la ciencia contemporánea delega la validación de la verdad en sistemas de "caja negra", es decir, arquitecturas matemáticas cuyos billones de parámetros internos resultan cognitivamente inescrutables para la mente humana, se produce una profunda reificación del conocimiento. 

El dato, despojado de su historicidad, de su contexto y de las tensiones sociopolíticas que le dieron origen, es elevado a la categoría de fetiche incuestionable.

La objetividad científica se privatiza tras el velo de la propiedad intelectual de las corporaciones tecnológicas, transformando el viejo Contrato Social de la ciencia, basado en la deliberación intersubjetiva de una comunidad de pares, en un autoritarismo computacional.

Ante esta deriva tecnocrática, el presente ensayo sostiene como Tesis Central que la opacidad inherente a los algoritmos de aprendizaje profundo (Deep-Learning) en áreas de alto riesgo, no constituye un mero fallo de optimización técnica susceptible de ser corregido con mayor potencia de cálculo, sino una forma de alienación y violencia epistémica que fosiliza las desigualdades del pasado bajo el simulacro de la neutralidad matemática.

En consecuencia, se argumenta que la Inteligencia Artificial Explicable (XAI) y las nuevas normativas de gobernanza no deben ser reducidas a simples protocolos burocráticos de mitigación de riesgos, sino que deben ser teorizadas como una reconstrucción de la acción comunicativa habermasiana, un espacio de inteligibilidad intersubjetiva indispensable para la emancipación humana y el rescate democrático del quehacer científico.

Para demostrar esta hipótesis, el mapa de ruta de esta investigación procedió, en primer lugar, a desenterrar la arqueología política del dato y las dinámicas de silenciamiento que operan en su etiquetado (Capítulo 1). En segundo lugar, se analizó el Teorema de Imposibilidad de Kleinberg como la demostración matemática de una tragedia axiológica insalvable para el programador (Capítulo 2). Posteriormente, se examinó el estatus político del objeto técnico a partir de las tesis de Winner y Simondon (Capítulo 3). Finalmente, se propone la XAI como una prótesis de la racionalidad comunicativa frente al monólogo de la máquina (Capítulo 4), sirviendo de antesala para la conclusión del texto.

II. DESARROLLO:

 Capitulo I: La Arqueología del Dato y la Violencia Epistémica (La Génesis del Artefacto)

Para comprender cómo la Inteligencia Artificial se abre paso en el tejido científico, es imperativo desmantelar el mito fundacional del positivismo contemporáneo: la fantasía del "dato puro". 

La epistemología informática dominante opera bajo el supuesto de que los macrodatos son reflejos objetivos, crudos y preexistentes de la naturaleza, listos para ser "descubiertos" por la potencia del algoritmo.

Esta ceguera ontológica ignora una premisa fundamental de la filosofía de la ciencia del siglo XX: tal como advirtieron Norwood Russell Hanson y Willard Van Orman Quine, toda observación está irremediablemente cargada de teoría (theory-laden). El dato nunca es un punto de partida natural; es siempre el resultado de un corte, un aislamiento y una abstracción previa impuesta por un marco conceptual e institucional específico. El dato no se encuentra, se fabrica.

En el aprendizaje supervisado (Supervised Learning), esta fabricación adquiere una dimensión profundamente política a través del proceso de anotación y etiquetado de datos (data labeling).

Una Red Neuronal no extrae significado del Mundo de manera autónoma; aprende a correlacionar vectores numéricos basándose en las "etiquetas" que seres humanos han asignado previamente a esos datos. Es en este preciso instante de génesis algorítmica donde se perpetra lo que Gayatri Chakravorty Spivak denomina violencia epistémica.

Las categorías con las que el algoritmo clasificará la salud, la delincuencia, el mérito o la normalidad humana no brotan de la objetividad matemática, sino de la imposición de taxonomías discretas y rígidas sobre realidades fenomenológicas que son esencialmente continuas, fluidas y contingentes.

La violencia epistémica de la IA se consuma mediante la externalización global del trabajo de etiquetado. Ejércitos de trabajadores precarizados en el Sur Global son contratados por centavos (miserias) a través de plataformas digitales para clasificar imágenes, textos y conductas bajo ontologías estandarizadas en Silicon Valley. Este proceso silencia e invisibiliza los marcos de conocimiento de los sujetos subalternos; sus contextos históricos, sus narrativas locales y sus realidades corporales son trituradas y reducidas a etiquetas binarias homogéneas para alimentar la función de pérdida de un software propietario. La máquina no elimina el sesgo humano; institucionaliza, automatiza y globaliza el sesgo del grupo dominante, revistiéndolo con el aura de la infalibilidad matemática.

Esta reducción forzada de la experiencia humana al código binario encuentra su correlato teórico en la Analítica del Poder de Michel Foucault. En Microfísica del Poder, Foucault nos recuerda que “El saber no está hecho para comprender, está hecho para cortar”. 

El entrelazamiento de las formaciones de saber y las estructuras de poder se manifiesta en la IA como un dispositivo biopolítico radical. Al entrenar un algoritmo de diagnóstico médico o de predicción social, el cuerpo del sujeto es fragmentado: se convierte en un conjunto de píxeles, en una tasa de filtración o en un historial de transacciones financieras.

En este proceso, el testimonio fenomenológico del paciente (el dolor narrado, la vivencia del cuerpo enfermo, la trayectoria vital) es confiscado y declarado epistémicamente irrelevante.

La "verdad" de la patología o de la desviación ya no emerge de la relación hermenéutica entre el sujeto (paciente) y el clínico (Médico) en el espacio intersubjetivo del consultorio, sino del consenso estadístico latente en una masa de datos anonimizados.

La soberanía clínica del médico es desplazada por una biopolítica predictiva, donde el individuo ya no es evaluado por su singularidad existencial, sino por su proximidad matemática a un perfil de riesgo precalculado por la máquina.

Al operar de forma opaca, el algoritmo de caja negra naturaliza las patologías sociales del pasado y las proyectas hacia el futuro con rango de Ley Científica, clausurando la posibilidad de la contingencia, del cambio histórico y de la emancipación del sujeto.

La razón algorítmica se devela, así como la fase superior de la razón instrumental: una técnica de cuantificación total que, en su afán de objetivación absoluta, termina por silenciar la voz del sujeto cognoscente.

Esta confiscación del testimonio humano se inscribe en lo que Shoshana Zuboff denomina el Capitalismo de la Vigilancia, un régimen de acumulación que reclama la experiencia humana como materia prima gratuita para ser traducida en datos de comportamiento.

Bajo esta lógica, la IA opera como un aparato expropiador: extrae el "excedente conductual" del Mundo de la Vida (Lebenswelt) y lo reifica (Lo cosifica) en patrones predictivos comerciales o científicos.

Como señala Zuboff, este proceso despoja al ser humano del derecho básico a la santidad de su propia experiencia interior, convirtiendo la subjetividad en una mercancía matemática utilizable por las estructuras de poder.

Esta expropiación culmina en lo que Antoinette Rouvroy y Thomas Berns (2013) tipifican como la “Gubernamentalidad Algorítmica”. A diferencia de las formas soberanas o disciplinarias de Poder descritas por Foucault, este nuevo Modo de Gobernanza no se dirige al sujeto consciente, ni busca su obediencia a través de la Ley. La gubernamentalidad algorítmica actúa directamente sobre las infraestructuras de los datos, operando de manera puramente inductiva y sin apelar a la reflexividad.

Al prescindir de la subjetividad individual y reemplazarla por perfiles de probabilidad abstractos, el sistema produce una "gubernamentalidad sin sujeto".

El peligro ético es radical: se anula la posibilidad misma de la disidencia o de la resistencia política, puesto que el algoritmo no reprime las conductas, sino que las anticipa y las moldea pasivamente en el tejido invisible de las bases de datos.

Capítulo II: El Teorema de Kleinberg y la Tragedia Axiológica del Algoritmo

Para la Mirada Tecnocrática, el sesgo algorítmico es concebido como una impureza provisional, un residuo del pasado corregible mediante el refinamiento del cómputo. Sin embargo, cuando la Inteligencia Artificial de alto riesgo se adentra en el terreno de las decisiones sociales o clínicas, colisiona con una barrera gnoseológica insalvable.

1.       El desmantelamiento definitivo de la supuesta neutralidad matemática de la máquina no proviene esta vez de la sociología de la ciencia, sino de los propios confines de la Informática Teórica: el Teorema de Imposibilidad de Jon Kleinberg. Su formulación constituye un hito epistemológico que puede ser traducido, filosóficamente, como la demostración formal de una tragedia axiológica e ideológica insalvable.

Kleinberg demostró matemáticamente que cuando las tasas, base de dos poblaciones históricamente diferenciadasson desiguales, es formalmente imposible que un sistema automatizado satisfaga, simultáneamente, tres criterios  elementales de equidad:

a)       La Independencia o paridad demográfica (aprobar la misma proporción de sujetos en todos los grupos).

b)      La separación o igualdad de oportunidades de error (mantener idénticas tasas de falsos positivos y falsos negativos entre subgrupos).

c)       La suficiencia o calibración predictiva (que un puntaje de riesgo determinado signifique exactamente lo mismo con independencia del grupo de pertenencia).

El teorema no describe un fallo del software susceptible de ser subsanado con un mejor muestreo; describe una incompatibilidad  estructural.

2.       Bajo el prisma de la Teoría Crítica, este teorema adquiere una dimensión profundamente dialéctica. Revela que el imperativo de la optimización matemática no es un proceso técnico aséptico, sino un ejercicio encubierto de dominación axiológica. El programador se ve despojado de su pretendida objetividad neutral y es arrojado al centro de un conflicto meta-ético no-resuelto. Al verse obligado a diseñar la función de pérdida de un algoritmo de alto riesgo, el desarrollador debe elegir cuál de los criterios de justicia va a sacrificar en los altares de la precisión global.

3.       Optimizar la paridad demográfica: una postura afín a la justicia distributiva e igualitaria de John Rawls altera, necesariamente, la calibración del modelo, penalizando la precisión predictiva individual y vulnerando el principio deontológico médico de no maleficencia. Por el contrario, priorizar la calibración pura (una aproximación utilitarista orientada a la eficacia técnica abstracta) perpetúa el castigo estadístico sobre las minorías, Históricamente, subalternizadas. El algoritmo, por lo tanto, no suspende el conflicto político: lo petrifica tras el velo de un monólogo informático inescrutable.

La aparente neutralidad algorítmica es la máscara que esconde una violencia axiológica: la imposición de una ontología moral particular que se presenta a sí misma con el rango de una ley matemática universal.

Capítulo III:

La Política de los Artefactos y la Alienación del Objeto Técnico

La reificación (cosificación) del saber bajo el paradigma de la caja negra no ocurre en el vacío social; se encarna en arquitecturas tecnológicas que consolidan nuevas asimetrías de poder.

Como nos enseñó Langdon Winner (2013) en su célebre tesis sobre La política de los artefactos, Más allá de la eficiencia: Nos enseñó a no juzgar las máquinas solo por su productividad o costo económico, sino por las consecuencias humanas y políticas de su uso. Esta frase sintetiza una de las críticas más profundas a la visión puramente tecnocrática o utilitarista del progreso tecnológico. Nos invita a pasar de una evaluación puramente cuantitativa a una evaluación cualitativa, ética y social del impacto de la nueva tecnología digital. Así, tenemos:

1)      Consecuencias Humanas:

a)       Alienación vs. Realización: Evalúa si la máquina libera al ser humano de tareas peligrosas y repetitivas, o si, por el contrario, lo despoja de su autonomía, creatividad y sentido de propósito.

b)      Impacto en el bienestar: Analiza cómo el uso de una tecnología afecta la salud mental, el estrés laboral, el aislamiento social o la desconexión comunitaria de los usuarios y trabajadores.

2)      Consecuencias Políticas

a)       Estructuras de poder: Las tecnologías no son neutrales; a menudo reflejan y refuerzan las intenciones de quienes las diseñan o financian. Una máquina puede centralizar el control (vigilancia, monopolios) o democratizar el acceso (software libre, redes distribuidas).

b)      Desigualdad social: El despliegue de automatización o inteligencia artificial sin regulaciones puede ensanchar la brecha entre los dueños del capital tecnológico y la fuerza laboral desplazada, reconfigurando la estructura de clases y los derechos laborales.

Por lo general, los sistemas técnicos de gran envergadura no son herramientas neutrales cuyos fines dependan exclusivamente del uso que se les dé; son, en sí mismos, formas de ordenación política. Ciertas tecnologías están inherentemente ligadas a regímenes de autoridad específicos.

La IA opaca, al exigir infraestructuras masivas de almacenamiento, supercómputo y acumulación de capital de datos, se alinea estructuralmente con formas autoritarias y verticalistas de gobernanza tecnocrática. Las grandes corporaciones de plataformas operan como los nuevos monasterios de la verdad científica, monopolizando la capacidad de validar lo real y clausurando el debate democrático intersubjetivo a través del secreto comercial y la inescrutabilidad del código.

Esta concentración del saber algorítmico profundiza la alienación humana descrita por Gilbert Simondon en su “Ontología de los Objetos Técnicos. Simondon advertía que la alienación de la cultura contemporánea no radica en las máquinas en sí, sino en el profundo desconocimiento de su modo de existencia. Tratamos al algoritmo hiperdimensional bajo dos extremos igualmente fetichistas e ideológicos: o bien lo reducimos a un "esclavo automatizado" puro del que solo se espera rendimiento cuantitativo, o bien, lo elevamos a la categoría de un ídolo sagrado poseedor de una clarividencia posthumana incorruptible. Ambos enfoques anulan la agencialidad del sujeto y consolidan la dominación de la técnica sobre la cultura.

Para romper esta reificación o cosificación, la gobernanza tecnocientífica contemporánea debe nutrirse de la propuesta emancipadora de Simondon:

“... es imperativo transitar hacia una cultura técnica donde el ser humano actúe no como el operario dominado o el usuario pasivo del sistema de caja negra, sino como el mediador y organizador lúcido del objeto técnico. Esto implica que la inteligibilidad y la transparencia exigidas por la Inteligencia Artificial Explicable (XAI) no constituyen meros parches de seguridad informática o exigencias jurídicas de cumplimiento corporativo.”

En un sentido crítico y emancipador, la explicabilidad es el Acto de Resistencia Política que Desmitifica el Artefacto, reintegrando al Algoritmo en una relación de intersubjetividad con la comunidad humana y rescatando la Soberanía del Pensamiento Crítico frente al Automatismo Ciego de la Razón Instrumental.

Capítulo IV: La XAI como Prótesis de la Acción Comunicativa frente a la Razón Instrumental

El diagnóstico de la racionalidad algorítmica no tiene por qué clausurarse en el pesimismo paralizante de una dominación total sin escapatoria. Si bien la "caja negra" representa la encarnación contemporánea más refinada del éxito de la razón instrumental y estratégica, aquella que Jürgen Habermas identifica como orientada puramente al control técnico de variables y a la manipulación del entorno, la emergencia de la Inteligencia Artificial Explicable (XAI) abre una grieta dialéctica en este monólogo corporativo.

Frente al automatismo ciego que coloniza el mundo de la vida (Lebenswelt) reduciendo las decisiones existenciales de la ciencia, la justicia o la medicina a un cálculo de probabilidad asimétrico, la XAI puede ser teorizada como un dispositivo de resistencia: una prótesis para la acción comunicativa en la era tecnocientífica.

Para Habermas, la acción comunicativa no se rige por la lógica del éxito técnico individual, sino por el telos del entendimiento intersubjetivo entre sujetos capaces de lenguaje y acción. La legitimidad de un consenso o de un conocimiento científico no descansa en la autoridad del emisor ni en la infalibilidad mística del artefacto, sino en la posibilidad de someter cualquier afirmación al tamiz de una situación ideal de habla (ideale Sprechsituation).

La opacidad algorítmica rompe violentamente este pacto al sustituir la argumentación por la predicción muda. Cuando un sistema de Deep Learning dictamina un diagnóstico oncológico, el modelo impone una resolución monológica que impide la réplica. Al exigir normativamente interfaces de XAI, la sociedad no está demandando una simple traducción técnica del código a un gráfico comprensible; está obligando al artefacto a ingresar, por primera vez, al espacio del diálogo intersubjetivo y a someter sus resultados a las cuatro pretensiones de validez (Geltungsansprüche) que configuran la estructura del habla genuina.

            El concepto del mundo-de-la-vida (Lebenswelt), recuperado principalmente de la Crisis de las ciencias europeas y la fenomenología trascendental de Edmund Husserl se ha convertido en uno de los referentes conceptuales más importantes no sólo para la investigación filosófica en general, sino además para la promoción de múltiples análisis interior de las ciencias de la Informática, biológicas, sociales y humanísticas, detonadas, sobre todo, por su adopción en las obras de Alfred Schütz, Hans Blumenberg y Jürgen Habermas.

En Primer Lugar, la XAI institucionaliza la pretensión de inteligibilidad (Verständlichkeit). Una explicación computacional representa el esfuerzo de descodificar la matemática hiperdimensional para devolverla al plano conceptual humano. Sin inteligibilidad, no existe posibilidad alguna de acción comunicativa; la técnica opera entonces como un dogma inescrutable que exige fe ciega.

En segundo lugar, los modelos explicativos deben responder a la pretensión de verdad (Wahrheit), asegurando que la justificación visual ofrecida por el software corresponda fielmente a las propiedades ónticas reales del fenómeno examinado y no a un espejismo estadístico o un artefacto de los datos de entrenamiento.

En tercer lugar, la XAI activa la pretensión de rectitud (Richtigkeit), abriendo el juicio del algoritmo a la auditoría moral y política de la comunidad científica, obligando a que las decisiones trágicas que el Teorema de Kleinberg desveló como matemáticamente inevitables, se discutan bajo las normas axiológicas compartidas de la sociedad y no tras el secreto corporativo.

Finalmente, el sistema debe responder a la pretensión de veracidad (Wahrhaftigkeit), la cual se traduce en términos informáticos como la transparencia sobre los límites del propio modelo, declarando explícitamente sus niveles de incertidumbre y sus sesgos latentes, conjurando así la peligrosa "ilusión de transparencia".

Al configurar la XAI bajo estos cuatro pilares habermasianos, la producción de conocimiento se desplaza de la sumisión técnica hacia el debate emancipador. El veredicto del algoritmo deja de funcionar como un decreto irrevocable y pasa a ser considerado como una propuesta argumentativa sometida al escrutinio del "discurso práctico". La XAI rescata el potencial emancipador de la razón científica al permitir que el investigador, el médico clínico y el sujeto subalterno deconstruyan la decisión de la máquina, recuperando la soberanía cognitiva expropiada por la reificación del dato. No se trata de rechazar la potencia analítica de la informática hiperdimensional, sino de someter la fuerza del cálculo a las reglas del entendimiento democrático. La inteligibilidad del artefacto se erige así como la única salvaguarda epistemológica y política capaz de disolver el fetichismo digital, restituyendo el quehacer científico a su legítimo lugar: un espacio público de diálogo intersubjetivo libre de dominación tecnocrática.

Richtigkeit es una palabra en alemán que significa exactitud, corrección o veracidad. Viene del adjetivo richtig (correcto, bien, verdadero). Dependiendo del contexto, se usa de varias formas:

1)      Significado general: Se refiere a que algo está libre de errores, es válido o es correcto (por ejemplo, la corrección de un dato o la validez de una afirmación).

2)      En ciencia y técnica (metrología): Describe qué tan cerca está el promedio de una serie de mediciones de un valor real o de referencia.

3)      En derecho o administración: Se usa para comprobar la autenticidad o veracidad de documentos, cuentas o declaraciones (Belegprüfung)

CONCLUSIÓN:

1.       Hacia una Crítica de la Razón Algorítmica:

a)       La Inteligibilidad como Acto de Resistencia Epistémica.

b)      La irrupción de la Inteligencia Artificial en el espacio epistémico de la Ciencia Moderna Clásica no puede seguir siendo leída como una mera transición instrumental hacia una mayor optimización del cálculo.

c)       Al clausurar este análisis, nos enfrentamos a una encrucijada ontológica y política radical: La IA no solo automatiza el saber, sino que consuma la sustitución de la razón crítica por una razón instrumental y reificadora.

d)      La aparente neutralidad del "sesgo algorítmico" es, en última instancia, el síntoma de una fractura metaética que la técnica es estructuralmente incapaz de sanar, operando como un sutil pero implacable vector de dominación que actualiza la vieja advertencia de Horkheimer y Adorno sobre la dialéctica de la Ilustración.

e)       Al conectar la dimensión discursiva de la violencia epistémica con la rigidez matemática del Teorema de Imposibilidad de Kleinberg, la ilusión de una técnica desprovista de ideología se desmorona de forma definitiva.

f)        La violencia epistémica opera en la arqueología misma del artefacto: en el acto de etiquetado y curación de datos, donde la complejidad indómita de la experiencia humana y la historicidad de los cuerpos son violentadas y reducidas a taxonomías discretas diseñadas por las geografías del poder hegemónico.

g)      Es el escenario denunciado por Gayatri Spivak en su crítica a la subalternidad: un proceso donde las estructuras de codificación dominantes silencian la especificidad del sujeto y reescriben su realidad a través de un monólogo epistémico eurocéntrico y corporativo.

h)      Como advertía Michel Foucault, «el saber no está hecho para comprender, está hecho para cortar». En la era del Big Data, el algoritmo corta y fragmenta el tejido social; no descubre las leyes de la naturaleza, sino que canoniza las cicatrices de la desigualdad histórica, transformando la biopolítica en una psicopolítica predictiva que administra los cuerpos bajo el simulacro de la objetividad matemática.

i)        Es aquí donde el Teorema de Kleinberg adquiere su dimensión más trágica y verdaderamente dialéctica. Su demostración matemática no describe un problema técnico corregible mediante una futura actualización de software; postula un límite gnoseológico insalvable que colisiona con cualquier pretensión de justicia universal. Al demostrar que los criterios formales de equidad —la paridad demográfica, la igualdad de oportunidades de error y la suficiencia predictiva— son mutuamente excluyentes entre sí cuando las tasas base históricas difieren, Kleinberg despoja al tecnócrata de su bata de neutralidad.

j)        El diseño de un algoritmo de alto riesgo se devela entonces como una decisión axiológica trágica, un acto político encubierto donde optimizar un valor moral significa, necesariamente, sacrificar otro. La técnica, lejos de liberarnos del conflicto político, lo petrifica en líneas de código inescrutables. Por consiguiente, la tesis central que este articulo sostiene:

2.       Es que la opacidad de la IA de "caja negra" constituye una expropiación de la agencialidad humana y la culminación de la alienación técnica.

3.       Al clausurar el proceso de validación científica dentro de arquitecturas propietarias e incomprensibles, se produce lo que Langdon Winner identificaba al afirmar que “los artefactos tienen política”, puesto que ciertas tecnologías están inherentemente ligadas a formas específicas de autoridad y poder institucionalizado.

4.       La IA de caja negra instala un régimen tecnocrático que clausura el debate democrático y disuelve la intersubjetividad que sostenía al contrato social de la ciencia moderna. Intercambiar la comprensión hermenéutica por la pura eficacia predictiva es ceder ante un misticismo cuantitativo donde los algoritmos operan como los sumos sacerdotes de una verdad inescrutable.

Frente a la tentación del fatalismo tecnológico, la emergencia de la Inteligencia Artificial Explicable (XAI) y la Gobernanza Tecnocientífica, no deben interpretarse como meros protocolos de mitigación de riesgos o reformas burocráticas dentro del capitalismo de plataformas. Son, en su raíz más honda, demandas de emancipación y humanización de la técnica. 

Para superar esta alienación, debemos rescatar la intuición de Gilbert Simondon en El modo de existencia de los objetos técnicos, cuando señalaba que el ser humano debe dejar de ser el amo que esclaviza a la máquina o el súbdito que la idolatra, para convertirse en el “organizador permanente de una realidad técnica que tiene necesidad de él para existir”.

Exigir la inteligibilidad del algoritmo, obligar a la máquina a desglosar el andamiaje lógico de su veredicto en conceptos humanos, es la única vía para romper la reificación o cosificación del dato, devolver la palabra al sujeto subalterno y restaurar la soberanía del pensamiento crítico sobre el automatismo.

Si la Ciencia Moderna nació del imperativo de liberar a la humanidad de los dogmas oscurantistas, la ciencia del mañana dependerá de nuestra resistencia radical a ser gobernados por una racionalidad matemática que nos prohíbe comprender.

NOTAS AL PIE DE PÁGINA / APARATO CRÍTICO

[1] La noción de "violencia epistémica" es desarrollada originalmente por Gayatri Chakravorty Spivak (1988) en su influyente ensayo Can the subaltern speak? (en C. Nelson & L. Grossberg [Eds.], Marxism and the Interpretation of Culture, pp. 271-313. University of Illinois Press), donde examina cómo las estructuras discursivas del sujeto colonizador occidental borran y reescriben de forma sistemática la historia y la voz de los grupos subalternos, despojándolos de su propia capacidad de autorrepresentación.

[2] Foucault, M. (2012). Microfísica del Poder (J. Varela y F. Álvarez-Uría, Trad.; 3.ª ed., p. 115). Siglo XXI Editores. (Obra original publicada en 1979). Para Foucault, las formaciones de saber y las estructuras de poder se constituyen recíprocamente; el examen analítico de los datos no opera como una revelación desinteresada de lo real, sino como una intervención política orientada a la clasificación, normalización y control biopolítico de las poblaciones.

[3] Cfr. Zuboff, S. (2020). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (pp. 8-12). PublicAffairs.

[4] Rouvroy, A., & Berns, T. (2013). Algorithmic governmentality and prospects of emancipation. Réseaux, 177(1), 163-196.

[5] Kleinberg, J., Mullainathan, S., & Raghavan, M. (2016). Inherent trade-offs in the fair determination of risk scores. arXiv preprint arXiv:1609.05807.

[6] En su clásico capítulo ¿Tienen política los artefactos?, Langdon Winner (1980/1987, en La Ballena y el Reactor: Una búsqueda de los límites en la era de la alta tecnología, pp. 35-61. Gedisa) sostiene que los sistemas tecnológicos de gran envergadura no solo facilitan ciertas acciones humanas, sino que incorporan de manera intrínseca formas específicas de orden y poder político, actuando a menudo como mecanismos de control social ajenos a la deliberación democrática.

[7] Simondon, G. (2007). El modo de existencia de los objetos técnicos (M. Martínez, Trad., pp. 31-34). Prometeo Libros. (Obra original publicada en 1958). En su propuesta ontológica del objeto técnico, Simondon rechaza tanto la tecnofobia como el optimismo cibernético ingenuo. El autor aboga por una cultura técnica que reintegre al objeto en la cultura humana, concibiendo al ser humano no como un operario dominado o dominante, sino como el mediador lúcido de los sistemas técnicos.

[8] Habermas, J. (1987). Teoría de la Acción Comunicativa (M. Jiménez Redondo, Trad.; Vol. 1, pp. 42-45). Taurus. (Obra original publicada en 1981).

[9] Ibíd., Vol. 1, pp. 143-146. Para Habermas, el cumplimiento de las pretensiones de validez es lo que permite que una emisión sea aceptada racionalmente por los participantes de una comunidad lingüística, evitando la coerción del poder sistémico.

[10] Esta exigencia de inteligibilidad se fundamenta en la distinción realizada por Jürgen Habermas (1981/1987) en su Teoría de la acción comunicativa, donde contrapone la racionalidad instrumental (propia de los sistemas de optimización sistémica y burocrática) a la racionalidad comunicativa, la cual exige la transparencia intersubjetiva y el consenso racional como base del entendimiento democrático.