Apuntes que ninguna IA escribiría¹

Diego Kozlowski

Mucho se escribe últimamente sobre las formas de la conciencia y la posibilidad de que los modelos de Inteligencia Artificial (IA) sean realmente inteligentes, o incluso lleguen a un estadio de Inteligencia Artificial General. La ebullición de este debate no es inocente, sino que tanto las visiones idílicas (tecno-optimistas) como las apocalípticas (tecno-pesimistas) que auguran la llegada de máquinas inteligentes responden a los intereses de las empresas que desarrollan las mismas tecnologías que parecieran ir en aquella dirección. Se trata de una gran campaña de prensa para Silicon Valley que propone fetichizar una tecnología, o un conjunto de tecnologías que, desde su misma difusa forma de ser nombradas, traen consigo la apariencia de la construcción de conciencias in silico. En buena medida, esta discusión se apoya en un sentido común respecto de qué es la inteligencia, aunque se trate de un concepto pobremente definido. Podríamos decir que cada quien puede definir inteligencia a priori para luego hacer encajar su definición con su intuición, también a priori, de si entonces la IA es o no inteligente.

En estos apuntes propongo un camino diferente. En una respuesta a sus críticos, Marx se preocupó por aclarar “yo no parto de conceptos” (Marx, 1982). Cuando propone su método para entender el mundo, Marx indica que no debemos empezar por las ideas abstractas que tenemos sobre una sociedad, sino por la realidad tal como aparece delante de nosotros. Sin embargo, lo que aparece a primera vista suele ser una superficie en la que se mezclan muchas relaciones diferentes, constituyendo una apariencia detrás de la cual se esconden los múltiples fenómenos que operan en simultáneo. El análisis consiste en desarmar esa realidad, ir separando sus elementos más fundamentales y entender cómo se relacionan. En un segundo momento, reconstruimos ahora sí idealmente esa realidad a partir del entendimiento de los fenómenos fundamentales, sus formas de existencia, sus dinámicas y relaciones. El resultado no es una descripción más simple, sino una comprensión más rica: vemos la totalidad como una síntesis de múltiples determinaciones (Marx, 1974). En lugar de partir de una noción preestablecida de inteligencia para ver si la IA se adapta a esa definición, podemos partir de la idea intuitiva de inteligencia para desarmar dicha noción hasta sus formas más elementales y, a partir de allí, reemprender un camino en búsqueda de una idea de inteligencia que sea la síntesis de múltiples determinaciones. 

Para hacer esto, me valgo de dos obras de Juan Iñigo Carrera (2007, p. 43‑54, 2008, p. 236‑241).  Personalmente, el trabajo de Juan Iñigo Carrera tiene una fuerte influencia en mi forma de entender el mundo, y veo en su obra la potencia de ayudarnos a entender la IA. Aquí me propongo explorar una línea argumental que parte de la obra de Marx e Iñigo Carrera para construir una noción de inteligencia que nos permita echar luz sobre el debate de si la IA puede o no pensar, si es o no inteligente.

La inteligencia humana

Desde aquellas formas más elementales de vida animal, lo que encontramos es un largo recorrido de complejización de la apropiación del medio, tanto en la capacidad de apropiación virtual como en las capacidades de apropiación efectiva. Esta gama de complejidades se encuentra tanto en el presente, cuando comparamos distintas formas de vida, como también a lo largo del tiempo, al observar los procesos evolutivos.

El ser humano representa un salto cualitativo en este proceso. Su capacidad de expandir la apropiación del medio pasa por la capacidad de actuar sobre objetos para transformarlos en medios para su apropiación del medio. Es decir, el ejercicio de reproducción de la vida se complejiza. La apropiación del medio deja de ser el consumo directo de aquello que la naturaleza ofrece y pasa a ser la transformación de la naturaleza en un número cada vez mayor de etapas hasta realizar el consumo efectivo. El diseño y creación de herramientas, por ejemplo, implican una transformación de la naturaleza para potenciar la capacidad de apropiación del medio. A su vez, implica una diferencia temporal creciente entre el momento de producción y el momento de consumo. Pero esta complejidad creciente del proceso metabólico implica una complejización del reconocimiento de la propia acción. Cuando construimos una herramienta, estamos reproduciendo nuestra vida, pero no ya de forma inmediata. El proceso de metabolismo que se abre con la creación de la herramienta y se cierra con el consumo que ella permite requiere un entendimiento de sus mediaciones. No sólo la apropiación efectiva del medio se complejiza, sino también nuestro conocimiento.

“Llega así un punto en que el conocimiento de la propia potencialidad respecto de la potencialidad del medio sólo puede realizarse como un proceso que se conoce a sí mismo en su propia potencialidad. Esto es, como un proceso de conocimiento que se reconoce a sí mismo como tal, como un proceso cuyo sujeto se sabe a sí mismo un individuo que conoce. El proceso de gasto productivo de una porción del cuerpo para organizar el trabajo que abre el metabolismo humano toma así una forma que le es genéricamente propia: el conocer consciente, o sea, la conciencia. Y la conciencia desencadena el gasto productivo pleno del cuerpo porque sabe el fin de esta acción, esto es, tomando la forma de voluntad. A partir de ese momento, el trabajo humano se convierte en una acción consciente y voluntaria, en una acción que conoce su propia necesidad, sus determinaciones, y que se desencadena porque conoce cuál es el fin que va a lograr con ello.” (Iñigo Carrera, 2007, p. 45)

Es decir, la conciencia que distingue al ser humano de otras especies se desprende de su forma específica de interactuar con el medio para reproducir su propia vida. La forma de entender el mundo para realizar su propio proceso de metabolismo. En tanto actuamos con conocimiento de causa, podemos realizar nuestras acciones de forma voluntaria. Vale agregar, siguiendo a Engels, que la libertad se encuentra en la síntesis del conocimiento y la voluntad:

“La libertad de la voluntad no significa, pues, más que la capacidad de decidir con conocimiento de causa.” (Engels, 2009, p. 131)

En síntesis, los animales desarrollamos nuestra capacidad de conocer el medio como un momento de nuestro propio proceso de reproducción de la vida. Desde sus formas más rudimentarias hasta sus formas más complejas, avanzamos en nuestra capacidad para conocer, es decir, nuestra inteligencia. Un resultado de la historia natural es que un tipo de animal en particular, el ser humano, avanza en su capacidad para apropiarse del medio a través de la modificación del entorno para sus propios fines. A partir de este punto, el ser humano logra un proceso acumulativo de avance en su capacidad de apropiarse del medio, en el cual produce instrumentos que potencian su acción. Esta capacidad creciente para apropiarse del medio y reproducir la vida también implica una mayor independencia del ser humano respecto de las condiciones naturales. Hoy en día nuestra reproducción como especie está fundamentalmente determinada por las condiciones que la humanidad se dio a sí misma como especie. Somos, en tanto individuos, productos sociales e históricos.

Conocimiento, ciencia y técnica

Esta acumulación histórica también está portada en los cambios técnicos: desde las épocas más primitivas de nuestra especie, desarrollamos herramientas que nos permiten trabajar de formas cada vez más eficientes. Pero este desarrollo técnico trae consigo una especialización creciente. Somos seres sociales, y en tanto tales nos especializamos en tareas específicas porque es de forma colectiva que logramos reproducir nuestra vida de forma más potente. Aunque esto no es único del ser humano. Muchas especies viven en comunidad y poseen una división del trabajo entre sus miembros. Como especie humana, nuestro metabolismo social avanza a través de la división social del trabajo (Pasquinelli, 2023). 

Sin embargo, en el capitalismo, la maquinaria y los procesos de automatización producen una suerte de inversión de esta relación: los cambios técnicos siguen ampliando nuestra capacidad de transformar el medio, pero en tanto trabajadores pasamos a ser apéndices de una maquinaria que le impone al proceso productivo sus propios ritmos (Marx, 2010). Mientras las herramientas son una extensión de nuestro cuerpo para ejecutar una tarea específica, la energía que mueve a la maquinaria ya no proviene de nuestro propio movimiento, sino que está objetivada en otro proceso técnico —máquina de vapor, motores a carbón, gas, petróleo, electrificación, etc.— que automatiza los ritmos de producción. La digitalización introduce un salto análogo, aunque de otro orden: automatiza los flujos de información que hasta entonces habían estado portados exclusivamente en nuestras mentes, o a lo sumo objetivados en papel.

Lo que se transforma, en todos estos saltos históricos, es la relación entre trabajo vivo y trabajo pretérito, acumulado, muerto. Siguiendo a Marx, el trabajo muerto es esa acumulación de trabajo humano portada en herramientas, máquinas u objetos, mientras que el trabajo vivo es el que se realiza en el momento mismo de la producción y es, también según Marx, la fuente del valor (Marx, 2010). En el proceso productivo, el trabajo muerto funciona como la personificación del capital; de ahí que la capacidad de la maquinaria para gobernar los ritmos de trabajo no sea un efecto accidental, sino un esfuerzo de los capitalistas por ampliar su control sobre el proceso productivo. La digitalización profundiza esta misma lógica, al incrementar las capacidades de supervisión y control sobre los trabajadores.

El análisis de datos, el machine learning y la llamada inteligencia artificial pueden ser comprendidos como un momento de este recorrido histórico. Mientras la máquina de vapor sobre la que escribió Marx en su época automatizó la fuerza motriz del proceso productivo, los algoritmos buscan automatizar tareas vinculadas con procesos cognitivos. Entre otras cosas, los algoritmos automatizan la toma de decisiones. Por ejemplo, la decisión de qué publicidad mostrarle a qué usuario en qué momento. Por un lado, se crea la posibilidad de una microsegmentación del público a través de las redes sociales y un control directo sobre la información que recibe cada usuario. Por otro lado, esta segmentación implica la multiplicación de las decisiones posibles (qué mostrarle a cada persona dadas sus preferencias) más allá de lo que resultaría económicamente viable si un humano tuviera que tomar cada una de esas decisiones.

Ahora sí podemos preguntarnos: ¿puede una herramienta conocer? El conocimiento, siguiendo el desarrollo aquí propuesto, es un momento de una totalidad. Es un momento de la reproducción de la vida. Es el resultado de la historia natural, de la vida avanzando en su metabolismo. Si no hay vida que reproducir, entonces no hay un sujeto que ponga en movimiento la acción de conocer. No puede haber, por lo tanto, inteligencia en el sentido que se desprende de lo aquí desarrollado. Lo que hay es una herramienta que forma parte del proceso de conocimiento de un sujeto, el ser humano. Una herramienta con la característica peculiar de avanzar en la automatización de porciones del trabajo relacionadas con la apropiación virtual del medio, del trabajo cognitivo. Una herramienta que logra operar de forma autónoma y extendida en el tiempo para realizar tareas que otrora fueron desarrolladas por humanos y que se vinculan específicamente con el proceso de conocimiento. Pero ni el conocimiento en sí, ni la voluntad, ni la libertad son atributos propios de un objeto inanimado. La IA es trabajo muerto; es nuestro trabajo hecho objeto, nuestro conocimiento objetivado en herramienta.

Estrategias tecnológicas al servicio del capital

Existe una multiplicidad de modelos de aprendizaje automático para diversas tareas. Dentro de este universo, hay un tipo de modelos que crecientemente construyen la apariencia de tratarse de procesos inteligentes. Las tecnologías de propósito general (GPT por sus siglas en inglés), como los modelos conversacionales diseñados para responder sobre cualquier tema o incluso ejecutar tareas como si tuvieran agencia propia, parecieran automatizar nuestra inteligencia, creatividad, y voluntad. Es decir, pareciera que estas herramientas se constituyen como sujetos de su propia acción. Las empresas que diseñan estos modelos incluso los entrenan para emular una personalidad humana, con la cordialidad y la apariencia de empatía propias de un ser humano. 

Las consecuencias de la automatización del pensamiento auguran un cambio cualitativo en las formas de organización de nuestro metabolismo social, vaticinando tanto futuros idílicos donde todo el trabajo es automatizado y los seres humanos nos dedicamos al ocio, como escenarios apocalípticos donde estas máquinas con voluntad propia nos dominan como especie. Pero todos estos escenarios caen en la apariencia de que estas tecnologías portan consigo la posibilidad de objetivar la subjetividad, lo cual es una contradicción en sus términos. Esta apariencia, y los imaginarios que a partir de ella se constituyen, no son inocentes, sino que responden a una doble función: por un lado, promueven una imagen respecto de las capacidades de dichas tecnologías que resulta particularmente beneficiosa para la valuación que los mercados hacen sobre las empresas de IA. Por otro lado, corren el eje de la crítica de los riesgos que estas tecnologías efectivamente implican para nuestra sociedad hoy.

La creación de GPT responde a un modelo de negocio específico: las plataformas tecnológicas (Rikap, 2026; Srnicek, 2019, 2026). Las Big Tech —Google, Amazon, Meta, Microsoft— se constituyeron a través de plataformas en “la nube” como un paso obligado para la utilización de los algoritmos de frontera para prácticamente todas las ramas de la producción. Desde esta posición estratégica logran captar parte de las ganancias generadas en los demás capitales a partir de la utilización de dichas tecnologías. Pero para que esta estructura de mercado funcione, las Big Tech necesitan controlar la frontera tecnológica. Los modelos GPT son estratégicos precisamente porque pueden convertirse en una infraestructura central de la innovación en IA. Así como en el universo de Tolkien había One Ring to rule them all, en el universo de las Big Tech emerge una tecnología de la que pueden depender múltiples procesos de innovación. Quien controla esta tecnología puede, a su vez, controlar las cadenas de innovación e imponer sus condiciones al resto de los actores.

Las Big Tech evitan así tener que desarrollar modelos específicos para cada una de las posibles tareas específicas en cada rama de producción. Dichas implementaciones toman una dimensión independiente como aplicaciones de los modelos de propósito general, desarrollados por otras empresas dentro del entorno de la nube, dado que allí es donde pueden acceder al uso de los modelos GPT. Hay incluso compañías que se especializan en desarrollar y vender soluciones en el entorno de la nube a otras empresas. Pero como estos algoritmos y procesos se desarrollan en el entorno cerrado de la nube, siempre deben pagar por el uso del poder de cómputo que provee la Big Tech correspondiente, ya sea la nube de Amazon, Microsoft o Google. 

Junto con la idea de GPT, existe una segunda decisión epistemológica que ha sido explotada por las Big Tech en la frontera de la computación: el paradigma del escalamiento. Según este paradigma, un aumento en la cantidad de datos de entrenamiento y en el tamaño de las arquitecturas de deep learning se traduce en una mayor capacidad de los modelos. Al menos hasta el momento, esta estrategia ha demostrado ser efectiva para mejorar el desempeño y las capacidades de estos algoritmos, pero también implica una expansión constante de los recursos computacionales requeridos y, con ella, importantes costos ambientales. A su vez, dicho paradigma resulta estratégico para el modelo de negocios de las plataformas, al aumentar las barreras de entrada para el desarrollo de modelos que constituyen la frontera técnica. Sólo las Big Tech cuentan con la capacidad de financiamiento necesaria para desarrollar—ellas mismas o a través de las empresas que financian—la tecnología que les permite sostener sus posiciones privilegiadas en el mercado.

El paradigma de modelos de propósito general y el escalamiento son, entonces, piezas tecnológicas y herramientas de las Big Tech para controlar la frontera técnica y forzar la coparticipación en las ganancias por innovación de las empresas que utilizan sus tecnologías. La gran estafa tecnológica es pensar que este paradigma es la única forma en que se pueden desarrollar las fuerzas productivas. Incluso dentro del mundo de Machine Learning, si todos los esfuerzos de la comunidad científica se orientan en esta dirección, esto entonces se vuelve una profecía autocumplida: la frontera técnica estará allí donde pongamos el trabajo colectivo de los investigadores del área. No se trata de negar las potencialidades de los modelos generativos, sino de cuestionar el sendero de desarrollo tecnológico que nos lleva a una inmensa concentración económica y a desastres ambientales.

Los usos ideológicos del fetichismo de la IA

La elección del sendero de desarrollo está profundamente influenciada por el fetichismo de la IA. Las fantasías de un mundo sin trabajo y las pesadillas apocalípticas contribuyen a esta fetichización. Contribuyen a creer que nos encontramos frente a la singularidad técnica que marca un antes y un después de la humanidad. Esta sobredimensión de las capacidades de la IA no deja espacio para cuestionar si el paradigma vigente es acaso el único posible o el más deseable. Las bajas barreras de acceso para cualquier persona en el uso de un chatbot gratuito para que resuelva cualquier cuestión de la vida cotidiana contrastan con las altísimas barreras de entrada para entender, producir y participar del control de esas mismas tecnologías. Alrededor de estas tecnologías se está construyendo una ideología respecto de sus posibilidades, riesgos, y límites. La noticia más reciente es que los CEO de OpenAI y Anthropic han planteado la necesidad de regular el desarrollo de la inteligencia artificial, apelando a los supuestos peligros existenciales asociados con estas tecnologías. Aunque puede resultar paradójico que algunas de las empresas que lideran el desarrollo de la IA promuevan mayores restricciones sobre su propia actividad, esta posición también puede interpretarse desde la economía política de la regulación: cuando un mercado se encuentra altamente concentrado, nuevas reglas pueden modificar las condiciones de competencia y dificultar la entrada de nuevos actores. Es una captura regulatoria donde los actores dominantes influyen sobre el diseño de las reglas que regulan un mercado de manera que estas terminen reforzando, o al menos preservando, su posición privilegiada. Algo así como suspender el partido cuando vas ganando.

El fetichismo se refiere al proceso mediante el cual asignamos poderes sobrenaturales a objetos mundanos. Volviendo a Marx, en la compra-venta de mercancías se esconden las relaciones entre las personas, a través de las relaciones que establecemos entre los productos de nuestro trabajo. El discurso construido alrededor de la IA reproduce exactamente esto: Asignamos propiedades fantásticas como la conciencia a simples objetos inanimados, cuando lo que se esconde detrás de ellos son las muy reales relaciones de poder que configuran el capitalismo contemporáneo. Las ideas de una IA inteligente que nos domina como especie tienen entonces un trasfondo más mundano. Son los muy humanos dueños de la Big Tech quienes presentan un riesgo para el resto de la humanidad. Es su competencia desenfrenada por dominar el mercado lo que pone a la humanidad frente al abismo ecológico, y son sus ganancias por automatización las que ponen en riesgo los empleos. Los agentes de inteligencia artificial no poseen ni agencia ni inteligencia, pero sí son artefactos que operan sobre las relaciones entre personas. En este sentido, las críticas a la IA deben ante todo centrarse en las relaciones sociales que la configuran y convierten en un peligro para la humanidad, y no en los fetiches tecnológicos que alimentan la propaganda de las Big Tech.

Referencias

Engels, F. (2009). Anti-Dühring. antidoto.

Iñigo Carrera, J. B. (2007). Conocer El Capital hoy : Usar críticamente El Capital (1. ed). Imago Mundi.

Iñigo Carrera, J. B. (2008). El capital : Razón histórica, sujeto revolucionario y conciencia (1. ed). Imago Mundi.

Marx, K. (1974). El método en la economía política. Grijalbo.

Marx, K. (1982). Notas marginales al tratado de economía política de Adolph Wagner. Pasado y Presente.

Marx, K. (2010). Capital : A Critique of Political Economy, Vol. 1. CreateSpace Independent Publishing Platform.

Pasquinelli, M. (2023). The eye of the master. A Social History of AI. Verso.

Rikap, C. (2026). The Rulers : Corporate Power in the Age of AI and the Cloud. Verso.

Srnicek, N. (2019). Platform Capitalism. Polity.

Srnicek, N. (2026). Silicon Empires : The Fight for the Future of AI. Polity.

1. Publicado originalmente en https://diegokoz.substack.com/p/el-fetichismo-de-la-inteligencia?utm_campaign=post&utm_medium=web ↩︎