Resonancia con Adonay Lizardo
Sudáfrica iba a ser el primer país africano con una política nacional de ética en inteligencia artificial. Histórico. Pionero. Un momento continental que merecía celebrarse. Lo retiraron 17 días después de publicarlo. ¿Por qué? Al menos seis de las 67 fuentes del documento eran inventadas. Fabricadas. Alucinadas por la IA que usaron para redactarlo. Las revistas académicas citadas eran, según investigadores, “completamente ficticias.” El ministro de comunicaciones, Solly Malatsi, escribió: “La explicación más plausible es que se incluyeron citas generadas por IA sin la verificación adecuada.” Y añadió que habría “gestión de consecuencias” para los responsables. Traducción: alguien va a pagar por esto. Bienvenidos a 2026. Antes de seguir, quiero que entiendas algo sobre las alucinaciones de IA, porque la mayoría lo malentiende. Una alucinación no es un error técnico dramático. No es humo ni chispas. Es lo opuesto: es la IA respondiendo con total confianza, con lenguaje fluido y autoridad académica, sobre algo que simplemente no existe. Un estudio del MIT encontró que los modelos de IA tienden a usar más lenguaje confiado cuando alucinan que cuando dan información verídica. Léelo de nuevo. Más confianza. Cuando menos lo saben. Es como ese colega que nunca dice “no sé.” Siempre tiene una respuesta. Siempre suena seguro. Y la mitad del tiempo, se lo está inventando. Ahora ponle ese colega a cargo de documentos de política pública, reportes de salud y estrategias de ciberseguridad nacional. Y aquí está la parte que nadie quiere admitir: esto no es un problema de países pequeños o gobiernos con recursos limitados. Porque la lista de casos incluye a la gigante empresa Deloitte. Dos veces. En 2 países distintos. Australia. Un reporte para el Departamento de Empleo y Relaciones Laborales. Citas académicas falsas. Frases inventadas. Deloitte lo reconoció en un email al gobierno: “el uso de herramientas de IA generativa resultó en outputs inexactos.” Precio del reporte: $440,000 dólares. Lo que devolvieron: $290,000. Se quedaron con $150,000 por entregar trabajo con errores fabricados por su propia IA. (No está mal el negocio 😅.) Canadá. Reporte de salud para el gobierno de Newfoundland y Labrador. 526 páginas. $1.2 millones de dólares. Con citas que no existen. El gobierno tuvo que reescribir sus contratos de licitación para exigir que todos los proveedores declaren si usaron IA. Gracias, Deloitte. Literalmente cambiaste la legislación de dos países. Pero espera. La administración Trump también. En mayo de 2025, la Casa Blanca publicó un reporte sobre salud infantil, bajo el programa Make America Healthy Again. Estudios que no existen. Citas con autores equivocados. Conclusiones incorrectas sacadas de estudios reales. Y lo más cinematográfico: algunos links tenían “oaicite” incrustado en la URL. Es una marca que deja ChatGPT cuando no puede verificar una fuente y la inventa. Literalmente el modelo dejó sus huellas digitales en el documento oficial de la Casa Blanca. La secretaria de prensa lo llamó “errores de formato.” Claro. Inventarse estudios científicos sobre la salud de los niños es un problema de formato. Y para cerrar el cuadro: la Agencia de Ciberseguridad de la Unión Europea. ENISA. Presupuesto de 27 millones de euros. Publicaron en 2025 dos reportes sobre amenazas cibernéticas con fuentes alucinadas. En uno solo: 492 notas al pie, 26 incorrectas. La agencia encargada de proteger a Europa de ataques digitales, comprometida por su propio descuido con IA. Chiara Gallese, investigadora de ética en IA, lo resumió sin rodeos: “ENISA le dejó a la IA tocar la única capa que nunca debería tocar sin vigilancia: la capa de la verdad. Sin pasos de verificación obligatorios. Sin controles de procedencia. Sin reglas claras. Solo velocidad, conveniencia y confianza ciega.” Ahora el contexto que hace todo esto más inquietante. El 88% de las organizaciones del mundo ya usan IA en al menos una función. Solo el 6% puede demostrar que genera valor real a escala. Empresas americanas gastaron $644 mil millones en implementaciones de IA empresarial en 2025. Entre el 70 y el 95% de esos proyectos no llegaron a producción. Eso no es adopción. Es pánico organizado. Y en ese pánico, los que se mueven más rápido son los que menos preguntan: ¿qué pasa cuando esto falla? Los mejores modelos de IA hoy alucinan menos del 1% del tiempo en preguntas generales. Suena bien. Pero en contextos legales, la tasa sube al 6%. En contextos médicos, entre el 10 y el 20%. En sistemas RAG para uso legal: hasta el 33%. Y ningún gobierno te va a decir en qué categoría está operando su IA cuando firmó el contrato. Entonces, ¿cuál es el problema real? No es la IA. La IA hace exactamente lo que fue diseñada para hacer: predecir la siguiente palabra más probable. No consulta bases de datos verificadas. No distingue entre una fuente real y una inventada. No tiene la capacidad de decir “no sé” a menos que alguien se lo enseñe explícitamente. El problema es que la estamos usando como si tuviera esas capacidades. Alguien en Deloitte decidió no verificar las citas antes de entregar. Alguien en la Casa Blanca decidió publicar sin auditar. Alguien en ENISA aprobó reportes sin un paso obligatorio de revisión humana. Esos “alguien” son humanos. La IA no firmó ninguno de esos documentos. Hay una frase que uso seguido: la IA es promedio, en el mejor de los casos. No lo digo para atacarla. Lo digo porque es literalmente cómo funciona. Un modelo de lenguaje es la agregación estadística de lo que los humanos han escrito. Predice lo que es más probable que venga después. Y cuando no sabe, genera lo que suena más probable. El problema no es que sea promedio, sino que la dejamos tomar decisiones que requieren algo excepcional. Velocidad sin verificación no es eficiencia. Es descuido con buena presentación. Y cuando ese descuido llega a documentos de política pública, reportes que cuestan millones, o la agencia que protege tu seguridad digital... el error no es técnico. Es una elección. La próxima vez que alguien te venda automatización sin mencionar auditoría, sin mencionar verificación humana, sin mencionar qué pasa cuando falla, ya sabes qué preguntarle. Y si no tiene respuesta, no está listo para la conversación.¡ Gracias por leer Academia Sinergia! Si encuentras valor en esto, te invito a compartirlo con alguien Fuentes Caso 1 — Sudáfrica * Rest of World — Five times AI hallucinations embarrassed governments → restofworld.org [https://restofworld.org/2026/government-ai-hallucinations-south-africa-deloitte/] * SA News — Minister announces withdrawal of draft AI Policy → sanews.gov.za [https://www.sanews.gov.za/south-africa/minister-announces-withdrawal-draft-ai-policy] * Wikipedia — Draft South Africa National AI Policy 2026 → en.wikipedia.org [https://en.wikipedia.org/wiki/Draft_South_Africa_National_Artificial_Intelligence_(AI)_Policy_2026] Caso 2 — Trump / MAHA Report * Science.org (AAAS) — Trump officials downplay fake citations in high-profile report → science.org [https://www.science.org/content/article/trump-officials-downplay-fake-citations-high-profile-report-children-s-health] * PolitiFact — How fake citations appeared in RFK Jr.’s MAHA report → politifact.com [https://www.politifact.com/article/2025/may/30/MAHA-report-AI-fake-citations/] Caso 3 — Deloitte Australia * Fortune — Deloitte was caught using AI in $290,000 report → fortune.com [https://fortune.com/2025/10/07/deloitte-ai-australia-government-report-hallucinations-technology-290000-refund] * AP / Yahoo News — Deloitte to partially refund Australian government → yahoo.com [https://www.yahoo.com/news/articles/deloitte-partially-refund-australian-government-070855665.html] Caso 4 — Deloitte Canadá * Fortune — Deloitte caught with fabricated AI-generated research in million-dollar report → fortune.com [https://fortune.com/2025/11/25/deloitte-caught-fabricated-ai-generated-research-million-dollar-report-canada-government/] Caso 5 — ENISA * Heise Online — EU cyber agency secretly uses AI for reports and gets caught → heise.de [https://www.heise.de/en/news/EU-cyber-agency-secretly-uses-AI-for-reports-and-gets-caught-11136978.html] * Cybernews — Caught red-handed: EU cybersecurity agency used AI to write reports → cybernews.com [https://cybernews.com/ai-news/enisa-cybersecurity-ai/] Estadísticas de alucinaciones * Webcite — AI Hallucination Statistics 2026 → webcite.co [https://webcite.co/blog/ai-hallucination-statistics/] * AllAboutAI — AI Hallucination Report 2026: Which AI Hallucinates the Most? → allaboutai.com [https://www.allaboutai.com/resources/ai-statistics/ai-hallucinations/] Adopción e impacto empresarial * Medium / Srinivas Rao — How the AI Industry Created $644 Billion of Economic Vandalism in 2025 → medium.com [https://skooloflife.medium.com/how-the-ai-industry-created-644-billion-of-economic-vandalism-in-2025-1ca0d71ab6f2] * McKinsey State of AI 2025 (vía CX Today) → cxtoday.com [https://www.cxtoday.com/ai-automation-in-cx/mckinseys-state-of-ai-the-scaling-gap-is-now-cxs-problem/] This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit academiasinergia.substack.com [https://academiasinergia.substack.com?utm_medium=podcast&utm_campaign=CTA_1]
13 episodios
Comentarios
0Sé la primera persona en comentar
¡Regístrate ahora y únete a la comunidad de Resonancia con Adonay Lizardo!