La verdadera razón por la que la Inteligencia Artificial empieza a caernos mal

Descripción

✨ Nota de Transparencia: Lo que vas a leer y escuchar es el resultado de mi colaboración con inteligencias artificiales. Aunque el cerebro detrás es humano, las voces y algunos matices son fruto de la tecnología. Puede que no sea perfecto todavía, pero prefiero la experimentación honesta a la perfección estática. Como el proyecto, en su propio ADN, busca mejorar constantemente, son muy apreciadas y esperadas todo tipo de feedback, sugerencias y críticas. Hola a todas y todos en esta comunidad de Inteligencia Libre. Es un gusto volver a encontrarnos en este espacio de reflexión pausada. Este artículo nace como el complemento necesario a nuestro último episodio del podcast, donde bajamos al barro para entender por qué la inteligencia artificial ha dejado de ser una “promesa abstracta” para revelarse como lo que realmente es: una infraestructura de poder. Hoy quiero que hablemos con honestidad, desde nuestra realidad aquí en Valencia, sobre un riesgo silencioso: ¿estamos delegando nuestra capacidad de juicio a cambio de una comodidad que nos sale demasiado cara? ¿Estamos perdiendo nuestra soberanía digital sin darnos cuenta? La crisis de legitimidad y el impacto invisible La imagen pública de la IA está cambiando. Enrique Dans lo advierte con claridad: la IA “empieza a caer mal”. Y no es un rechazo tecnofóbico, es una crisis de legitimidad. Mientras las grandes corporaciones financian think tanks para lavar su imagen, los datos de Pew Research muestran una brecha real: mientras los expertos celebran, la ciudadanía se inclina hacia la preocupación. Estamos atrapados en la mierdificación (enshittification) que describe Cory Doctorow: un ciclo donde las plataformas primero nos atraen con servicios gratuitos para luego degradarlos, esclavizar al usuario y maximizar el beneficio. Es el mito de “Heracles en la encrucijada” aplicado a nuestra pantalla: podemos elegir el camino de Kakia (la comodidad inmediata que nos vacía de agencia) o el de Areté (la virtud que exige el esfuerzo de pensar por uno mismo). Esta “invasión” de la IA no es solo digital, es material y política: * Impacto Energético y Ambiental: La presión sobre las redes eléctricas es insostenible. Un solo centro de datos hiperescalable puede consumir hasta 2.500 millones de litros de agua al año, generando tensiones críticas en el suministro local. * Impacto Político y Regulatorio: Asistimos a una “captura regulatoria” donde las empresas intentan diseñar las leyes a su medida, limitando su responsabilidad legal y frenando candidaturas que exigen un control democrático. * Impacto Social y Laboral: La preocupación es real en las calles. No se percibe como progreso, sino como una amenaza que reduce oportunidades y vacía de sentido el trabajo humano. Del “outsourcing” cognitivo a la web agéntica Estamos entrando en la era del razonamiento subcontratado (outsourced reason). Advait Sarkar nos advierte de que nos estamos convirtiendo en “turistas intelectuales”: visitamos las ideas, pero no las habitamos. Al delegar el juicio, debilitamos nuestra musculatura cognitiva, convirtiéndonos en simples validadores de las opiniones de un robot. Al mismo tiempo, la web está mutando. Según Dans, nos dirigimos a una web agéntica donde la interfaz ya no se diseña para ojos humanos, sino para que agentes de software interactúen entre sí. Un ejemplo claro es Inditex: con ventas de casi 40.000 millones de euros (más de 10.000 millones online), la empresa entiende que en el futuro no importará si su web es “bonita”, sino si es accionable para un agente de IA que busca una prenda con criterios logísticos y de precio. Para sobrevivir, las organizaciones deberán exponer su “capa de máquina” mediante protocolos como el Model Context Protocol (MCP) o el Universal Commerce Protocol (UCP). Frente a la obsesión por el “cero fricción”, debemos reivindicar la Hormesis Democrática. Así como el cuerpo se fortalece con pequeñas dosis de estrés (ejercicio), la democracia necesita la fricción del debate lento y la deliberación compleja para no atrofiarse. Inteligencia colectiva y el “Dark Forest” La tecnología no debe ser un dictado de Silicon Valley, sino un proyecto colectivo. Divya Siddarth defiende que la tecnología debe ser gobernada por las personas. Me quedo con una frase de una participante en sus procesos democráticos: “Ellos podrán ser expertos en IA, pero yo tengo ocho nietos. Sé cómo elegir buenos valores”. Esa es la clave: los valores no se programan, se viven. Para resistir la extracción masiva de datos, surge la estrategia del Dark Forest (Bosque Oscuro): crear perímetros de resistencia en redes federadas (Mastodon, ActivityPub) donde podamos practicar esa hormesis —el debate deliberado— sin el ruido de los algoritmos extractivos. Aquí, herramientas como llms.txt (un mapa para que las máquinas entiendan nuestra web) y identity.txt (una descripción de nuestra identidad y valores para la IA) se vuelven fundamentales para recuperar el control. Para el rico teixit cooperatiu i cultural valencià, propongo tres pasos hacia una “IA con sentido”: * Auditoría ética de modelos: Priorizar modelos de código abierto (Mistral, Qwen) que podamos alojar en infraestructuras locales y transparentes. * Soberanía de la identidad: Implementar archivos de control (llms.txt e identity.txt) para decidir qué máquinas nos leen y bajo qué términos. * Preservar la fricción cívica: Usar la IA para gestionar datos, pero nunca para sustituir las asambleas y los espacios de decisión humana, que deben seguir siendo lentos y soberanos. Recuperar el cuidado y el juicio Delegar totalmente nuestro juicio nos aboca a un vacío existencial. El tiempo que la IA supuestamente nos “libera” no suele ir destinado a aprender a tocar la guitarra o a pasear por la Albufera, sino a consumir más pantallas. Debemos preguntarnos si queremos ser sujetos de nuestra propia historia o simples gestores intermedios de los pensamientos de una máquina. Fortalecer nuestra musculatura cognitiva y reivindicar la fricción productiva es, hoy más que nunca, un acto de resistencia humana. PARTICIPA Si sientes que este enfoque resuena con tu forma de entender la tecnología, suscríbete a nuestra newsletter. Te invitamos también a unirte al grupo de debate de Inteligencia Libre, donde estamos aterrizando estos conceptos en casos reales para cooperativas y espacios educativos de nuestra ciudad. Tu voz y tus valores son los que deben guiar la máquina. FUENTES UTILIZADAS * Advait Sarkar (Microsoft Research) - “How to Stop AI from Killing Your Critical Thinking”. * Cory Doctorow - Concepto de “enshittification” (mierdificación). * Divya Siddarth (Collective Intelligence Project) - “How AI and Democracy Can Fix Each Other”. * Mitos y Memes - “Bosque Oscurol”. * Enrique Dans - “La impopularidad de la inteligencia artificial ya no se puede maquillar”, “La web está empezando a hablar en agéntico”, “Mythos, o cuando hackear deja de ser difícil”, “Palantir: cuando el software deja de ser herramienta para convertirse en poder”. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit inteligencialibre.substack.com [https://inteligencialibre.substack.com?utm_medium=podcast&utm_campaign=CTA_1]

IA en local y el mito de la productividad

Introducción: Bajando la tecnología a la tierra de Valencia Este artículo es mucho más que un resumen; es el manifiesto escrito que acompaña a nuestro último episodio en el podcast de Inteligencia Libre. En un mundo que parece girar exclusivamente en torno a la “Nube” —ese concepto etéreo que oculta servidores en manos de gigantes de Silicon Valley—, nosotros queremos proponer un retorno a lo tangible. Bajar la tecnología “a tierra” no es solo una metáfora. Para nosotros, en nuestra comunidad en Valencia, significa entender que la soberanía tecnológica empieza en nuestro propio hardware, en nuestra propia casa. Queremos dejar de ver la Inteligencia Artificial (IA) como una promesa de eficiencia mágica y empezar a verla como una herramienta de apoyo que respete nuestro bienestar y autonomía. No necesitamos más carga; necesitamos más libertad. 2. La trampa de la productividad y la “ciberpsicosis” El uso intensivo de la IA nos está vendiendo una mentira peligrosa. Xavier Mitjana nos advierte que los profesionales que mejor dominan estas herramientas suelen ser, paradójicamente, los que están más cerca del colapso. El subidón de la máquina Garry Tan, CEO de Y Combinator, confesó recientemente vivir en un estado de “ciberpsicosis”: dormía apenas 4 horas diarias, adicto a controlar qué hacían sus agentes de IA mientras él intentaba descansar. Tan comparó esta experiencia con su época de programador en la que usaba modafinilo y antinarcolépticos para rendir más allá de lo humano. Hoy, dice que la IA le da un “subidón” mayor que cualquier pastilla. Estamos tratando a la tecnología no como una herramienta, sino como un dopante biológico. La cinta de correr que nunca se apaga Según una encuesta de Upwork, los trabajadores más productivos son también los más quemados. Es la trampa de la eficiencia: * Eficiencia: Terminar antes. * Volumen: Producir más (la trampa). * Valor: Mejorar la calidad (el objetivo real). * Miedo: Usar la IA por el temor a ser reemplazado. Cuando ahorramos tiempo con IA, ese vacío se llena instantáneamente con más tareas. Es una cinta de correr que acelera cada vez más, agotando nuestra capacidad de desconexión. El riesgo de perder el alma (y el criterio) Un experimento con más de 700 consultores reveló una realidad incómoda: el uso de IA aumentó el rendimiento un 40% en tareas sencillas, pero provocó una caída del 19% en tareas complejas. Los profesionales dejaron de pensar, aceptando alucinaciones de la IA como verdades. Es el “paradoja del centauro”: la IA nos hace genios en lo fácil, pero mediocres en lo difícil si abandonamos nuestro criterio. 3. Soberanía tecnológica: La IA en local como acto de resistencia Frente al control corporativo y la censura de la nube, ejecutar modelos en local es un acto de soberanía. Significa privacidad total, gratuidad y, sobre todo, recuperar el control sobre lo que la máquina puede o no decir. El hardware: El cuello de botella es la RAM No te dejes engañar por el hype: para que la IA local no sea una frustración, la memoria RAM es la clave. Aunque puedes empezar con equipos modestos, el estándar para una experiencia fluida son 16GB de RAM. Existen opciones para cada nivel: * Smartphone: Google ha lanzado modelos como Gemma 2 2B (optimizado para móviles) y 9B (para tareas más pesadas). Apps como la oficial de Google o Locally permiten usarlos sin conexión a internet. * PC/Mac: Ollama (usando el comando ollama pull para bajar modelos), LM Studio o Jan AI son puertas de entrada sencillas y potentes. * Gestión avanzada: Herramientas como Pinokio o Anything LLM permiten orquestar agentes sin depender de suscripciones mensuales. 4. Anatomía de un agente local: Construyendo a “Inky” con seguridad Siguiendo las enseñanzas de Tina Huang, podemos ver a nuestro agente (Inky) como un organismo digital que debemos ensamblar con cuidado. Pero cuidado: no pongas IA sobre un caos organizativo previo. Primero el orden, luego la automatización. Los componentes de Inky * Cerebro: El LLM (Llama 3, Claude via API, o Quen). * Oídos y Boca: Canales de comunicación como Telegram o Discord para hablar con tu agente desde el móvil. * Memoria: Archivos de texto o sistemas como Obsidian que funcionan como un “segundo cerebro”. * Tentáculos (Skills): Herramientas para buscar en la web o ejecutar código. * Corazón (Heartbeat): Tareas programadas (cron jobs) para que el agente trabaje solo (ej. un resumen de noticias a las 7:00 AM). * Ojos (Vision): Capacidad de ver tu pantalla o analizar imágenes para interactuar con tu entorno digital. La “Paranoia Necesaria” (Seguridad Crítica) Darle a un agente acceso a tu ordenador es peligroso. Aplica estos principios de resistencia: * Aislamiento total: Usa un ordenador viejo o dedicado que no tenga tus datos sensibles. * Identidades limpias: Crea cuentas de correo nuevas y específicas para el agente. Nunca le des acceso a tu email personal principal. * Auditoría de IA a IA: No confíes en flujos de trabajo de terceros. Si descargas una “habilidad” nueva, pídele a otro LLM que audite el código en busca de instrucciones maliciosas antes de ejecutarlo. * Auditoría humana: Usa el “heartbeat” de tu agente para que genere un informe de seguridad cada hora sobre sus propias acciones. 5. Tres pilares para recuperar nuestro criterio Como mentores en esta transición tecnológica, os proponemos tres reglas de oro de Xavier Mitjana para no convertirnos en engranajes: 1. No decidir al instante: La velocidad de la IA anula el juicio. Separa siempre el momento en que la IA genera una respuesta del momento en que tú tomas la decisión. 2. Diferenciar ejecución de razonamiento: Delega en la IA lo que sea “hacer” (resumir, formatear, buscar), pero nunca le pidas que “piense” por ti. El razonamiento es humano. 3. Tiempo de desconexión absoluta: Si no puedes pensar sin una IA cerca, tus ideas ya no son tuyas; son ecos del modelo. Reserva espacios de silencio digital para asegurar tu identidad. 6. Reflexión abierta: ¿Comunidades o máquinas? En Inteligencia Libre nos negamos a aceptar que el futuro sea una competencia de producción infinita hasta el agotamiento. La IA local nos ofrece una bifurcación: podemos usarla para alimentar la máquina de la “ciberpsicosis” o para liberar tiempo real, proteger nuestra privacidad y cuidar de lo común. ¿Queremos ser profesionales agotados con herramientas de vanguardia o comunidades soberanas que eligen cuándo y cómo usar la tecnología? 7. Participa: Construyamos en común La soberanía no se consigue solo, se construye en comunidad. Queremos que nos cuentes cómo estás usando la IA local en tu cooperativa, en tu aula o en tu casa. Únete a nuestro grupo de debate, suscríbete a la newsletter y compartamos configuraciones seguras que nos devuelvan el tiempo. La tecnología debe estar al servicio de la vida, no al revés. 8. Fuentes utilizadas Este documento es fruto del análisis de las siguientes fuentes: * Xavier Mitjana: “La IA ROMPE a los TRABAJADORES que MEJOR la usan” (Análisis de salud mental y rendimiento). * Alejavi Rivera: “La forma más FÁCIL para usar IA en LOCAL… GRATIS, ILIMITADA y SIN Censura” (Guía técnica de herramientas locales). * Tina Huang: “Local AI Agents In 26 Minutes” (Anatomía de agentes y principios de ingeniería). * Referencias internas: Garry Tan (Y Combinator) sobre la ciberpsicosis; Encuesta de Upwork sobre burnout laboral; Antropic (Claude desktop/co-work). ✨ Nota de Transparencia: Lo que has leído y escuchado es el resultado de mi colaboración con inteligencias artificiales. Aunque el cerebro detrás es humano, las voces y algunos matices son fruto de la tecnología. Puede que no sea perfecto todavía, pero prefiero la experimentación honesta a la perfección estática.Como el proyecto, en su propio ADN, busca mejorar constantemente, son muy apreciadas y esperadas todo tipo de feedback, sugerencias y críticas. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit inteligencialibre.substack.com [https://inteligencialibre.substack.com?utm_medium=podcast&utm_campaign=CTA_1]

26 de may de 202621 min

Más allá del mito: Entender la IA para recuperar nuestra autonomía

Un café necesario tras el podcast Bienvenidos a este rincón de lectura. Tras nuestro último encuentro en el podcast de Inteligencia Libre, sentí que nos quedaba pendiente una conversación más reposada, una que nos permita asentar lo escuchado con la calma de un café compartido aquí, en nuestra comunidad de Valencia. Como suele decir Luciano Floridi, rescatando el espíritu de Oscar Wilde, nuestra tarea hoy no es otra que “jugar gentilmente con las ideas”. No buscamos deslumbrarnos con el último destello tecnológico ni caer en el alarmismo que a veces inunda nuestras redes. Mi intención es que trabajemos los conceptos con las manos, con esa “manifattura” de la que habla el profesor; que sintamos las ideas como si estuviéramos en la cocina de casa, cortando una carota o una cebolla, para entender qué está ocurriendo realmente con nuestra identidad y nuestra autonomía. Este texto es un mapa para orientarnos en esas órbitas complejas que recorrimos en nuestra última emisión y está dedicado a todos los que formáis parte de este camino de aprendizaje colectivo. El Meollo I: De la lógica a la estadística del “Éxito con Inteligencia Cero” Para comprender el presente, debemos desmitificar el pasado. La Inteligencia Artificial (IA) no es un fenómeno repentino; tiene unos sesenta años de historia. En sus inicios, figuras como John McCarthy —quien acuñó el término—, inspirados por la lógica matemática de Whitehead y Russell, creyeron que la IA se construiría mediante la deducción. El sueño era una “IA sintética”: largas cadenas de “si sucede esto, entonces haz aquello”. Sin embargo, ese camino fue, en palabras de McCarthy al final de su vida, un intento de “hacer trampa” que no replicaba la flexibilidad del pensamiento biológico. Hoy vivimos una segunda fase. La IA actual ha cambiado de piel: ya no es una rama de la lógica, sino una branca de la estadística. Gracias a una cantidad oceánica de datos —recordemos que el 99% de los datos de la historia humana se han generado apenas en los últimos 20 años— y a una potencia de cálculo sin precedentes, hemos alcanzado lo que Floridi define como el “Éxito con Inteligencia Cero”. La IA generativa funciona como un “autocompletado” probabilístico. Al igual que el buscador de Google intenta adivinar el final de tu frase basándose en millones de búsquedas previas, los Grandes Modelos de Lenguaje (LLM) como GPT asocian y correlacionan datos para predecir el siguiente resultado. Resuelven problemas complejos (jugar al ajedrez, traducir o conducir) sin necesidad de entender absolutamente nada. Es eficacia pura, pero con inteligencia biológica cero. El Meollo II: El divorcio entre agencia e inteligencia y el mundo “amigable” El gran cambio conceptual que debemos asimilar como comunidad es el divorcio entre la agencia y la inteligencia. Siempre hemos creído que para actuar con éxito en el mundo (agencia) necesitábamos pensar (inteligencia). La IA ha demostrado que se puede actuar con un éxito asombroso sin una pizca de consciencia. Pero aquí reside el truco que a menudo ignoramos: la IA no tiene éxito porque se haya vuelto “humana”, sino porque estamos adaptando el mundo para que sea “amigable” (friendly) para ella. Floridi usa una imagen muy potente: si pones un coche autónomo en mitad del desierto, sin sensores, sin mapas pre-cargados y sin conectividad, no es más que un “ferro vecchio” (hierro viejo). Solo funciona porque hemos transformado el entorno en una red digital que le permite “acertar”. * Almacenes robotizados: No son espacios para humanos; son entornos diseñados exclusivamente para que los algoritmos se desplacen sin obstáculos. * Campos de fresas: Las plantaciones modernas ya no crecen de forma natural, sino en hileras perfectas y rígidas, diseñadas para que un brazo mecánico las identifique y recolecte sin errores. * Bancos digitales: Hemos transformado las entidades bancarias en nodos de una red. El mundo bancario se ha vuelto digital para que los agentes artificiales puedan gestionar los datos por nosotros. El riesgo es que, en nuestra búsqueda de eficiencia, terminemos diseñando nuestras ciudades para la “estupidez” de la máquina —como los autobuses autónomos que necesitan vías perfectas— en lugar de diseñarlas para la complejidad y la riqueza de la vida humana. El Meollo III: La Cuarta Revolución y nuestra crisis de identidad Luciano Floridi nos sitúa en una estela de revoluciones que nos han ido quitando del centro: la de Copérnico (no somos el centro del universo), la de Darwin (no somos el centro del reino animal) y la de Freud (no somos dueños absolutos de nuestra mente). Ahora, la Revolución de Turing nos sitúa en la cuarta: ya no somos el centro de la infosfera. Para entender el calado de esto, recordamos la historia de Aristippo. Tras un naufragio, al llegar a las playas de Rodas, vio figuras geométricas dibujadas en la arena y exclamó: “Ánimo, veo huellas de hombres”. Durante milenios, ver un signo complejo (un dibujo, un texto, una herramienta) significaba presencia humana. Hoy, en la era Post-Vitruviana, ese vínculo se ha roto. La IA produce textos, vídeos y arte sin que haya un “alguien” detrás. Esta revolución opera bajo una lógica de “Cut and Paste” (Cortar y Pegar), que es más profunda de lo que parece: * Cortar (Detaching): El digital separa lo que antes era indivisible. Separa la presencia de la localización (podemos estar en Valencia y “presidir” una reunión en Londres) o la agencia de la inteligencia. * Pegar (Soldering): El digital suelda lo que antes estaba separado. Ha soldado nuestra identidad a nuestros datos, convirtiéndonos en “sujetos de datos” (data subjects). Esta “soldadura” cambia nuestro rol social: * De ser un Votante o Consumidor: Figuras que implican responsabilidad, elección y la capacidad de pedir cuentas (accountability). * A ser un Seguidor o Usuario: El “seguidor” (follower) a menudo actúa por impulso, como en una secta, mientras que el “usuario” es simplemente una interfaz para el sistema, un perfil predecible que entrega sus datos a cambio de conveniencia. Reflexión Abierta: Buceadores en un mundo de peces digitales Floridi nos ofrece una metáfora final para visualizar nuestra autonomía: el mundo se está volviendo digital, se está llenando de “agua”. En ese entorno, la IA son los peces; son nativos que se mueven con naturalidad en el dato y la estadística. Nosotros, seres analógicos, somos buceadores. Podemos entrar en ese entorno, pero necesitamos nuestras “botellas de oxígeno” —nuestra ética, nuestra cultura y nuestra capacidad de decir “no”— para no ahogarnos. Quizás, dentro de unos años, dejemos de buscar “humanidad” en la máquina. Floridi predice que la IA será como el “Caballo de Vapor” (HP/CV) de los coches. Cuando el motor a vapor sustituyó al animal, medimos su potencia en “caballos”, pero hoy nadie busca cascos o crines dentro de un capó. Con la IA pasará lo mismo: será una medida de potencia computacional y dejaremos de preguntarnos si “piensa”. La pregunta para nuestra comunidad es: ¿Queremos seguir adaptando nuestra vida y nuestras cooperativas a la rigidez del software? ¿O es hora de que el diseño tecnológico vuelva a ser humano y respete nuestra naturaleza de buceadores? Participa: Construyamos en común En Inteligencia Libre, nuestro propósito es que la tecnología refuerce lo común, no que nos aísle. Nos gustaría mucho conocer vuestra experiencia en Valencia y más allá: * ¿Sentís que en vuestras aulas o puestos de trabajo se os obliga a actuar de forma “rígida” para que el sistema informático no falle? * ¿Cómo podemos, desde lo local, proteger nuestra identidad para no ser meras “interfaces” de datos? Te invito a suscribirte a nuestra newsletter y a unirte a nuestro grupo de debate. Queremos construir un repositorio de casos reales donde la IA se use de forma ética, devolviendo el protagonismo a las personas y al medio ambiente. Fuentes utilizadas Para este artículo hemos contado con la luz de los siguientes referentes y obras: * Luciano Floridi: “Che cos’è (veramente) l’INTELLIGENZA ARTIFICIALE? | AI in Orbita”. * Luciano Floridi: “L’unicità dell’essere umani dopo l’AI” (Partes 1, 2 y 3). * Pensadores citados: Alan Turing, John McCarthy, Claude Shannon, Whitehead y Russell. ✨ Nota de Transparencia: Lo que has leído y escuchado es el resultado de mi colaboración con inteligencias artificiales. Aunque el cerebro detrás es humano, las voces y algunos matices son fruto de la tecnología. Puede que no sea perfecto todavía, pero prefiero la experimentación honesta a la perfección estática. Como el proyecto, en su propio ADN, busca mejorar constantemente, son muy apreciadas y esperadas todo tipo de feedback, sugerencias y críticas. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit inteligencialibre.substack.com [https://inteligencialibre.substack.com?utm_medium=podcast&utm_campaign=CTA_1]

19 de abr de 202626 min

La verdadera razón por la que la Inteligencia Artificial empieza a caernos mal

Descripción

Comentarios

Empieza 7 días de prueba

Todos los episodios