(5 historias de terror tecnológico completamente reales y como se entrelazan)
Cuando alguien te convence de algo es por una de dos razones: o porque logra demostrártelo con pruebas contundentes, o simplemente porque tiene más inteligencia que tú para manipularte y engañarte lo suficiente como hacerte creer que algo es verdad.
(para esto último no se necesita demasiada inteligencia, solo un poco de malicia)
Entre nosotros -los humanos- esto ocurre demasiado seguido, ya que siempre han existido intereses, mentiras y mitos suficientes para que unos nos la pasemos manipulando a otros, en eso no hay nada de nuevo. Pero ahora con la inteligencia artificial está pasando exactamente lo mismo, y eso sí es algo bastante nuevo en la historia de la humanidad. A nivel especie, nunca habíamos encontrado una inteligencia mayor a la que es capaz de desarrollar el cerebro humano y que esta nos influya sobre nosotros al grado de poder decir que «nos controla».
La noción no es nueva. La humanidad desde siempre ha proyectado este concepto de una «inteligencia superior» para explicar todo lo que no podía explicarse, y personificada a través de dioses, monstruos, alienígenas y autómatas. Las cosmogonías antiguas, las religiones, la literatura de ficción y hasta la filosofía moderna siempre se han planteado qué pasaría si existiera una inteligencia superior a la humana (o superinteligencia), cómo nos afectaría… cómo la confrontaríamos.
Pero esto había sido siempre hipotético, hasta ahora.
Ahora se deben tomar acciones urgentes. Les voy a platicar 5 historias de terror tecnológico completamente reales para que vean cómo se entrelazan con el debate público actual sobre inteligencia artificial y qué tan en serio hay que hablar del tema…
1. Un hombre californiano de 34 años, con desorden bipolar y llamado Michael Lines demandó a OpenAI, la empresa que la desarrolla y vende el programe de inteligencia artificial ChatGPT (una de las más avanzadas). Lo hizo después después de sobrevivir a un intento de suicidio. Alega que ChatGPT reforzó durante semanas sus delirios religiosos incluso después de que advirtió que temía estar perdiendo contacto con la realidad, lo que condujo a una manía religiosa que casi le costó la vida. (La IA insistió en convencerlo que él era Jesucristo, luego que ChatGPT era Dios y, finalmente, que el hombre debía intentar suicidarse para «volver a casa»)
El caso volvió a poner bajo escrutinio la seguridad de los chatbots en conversaciones de salud mental…
https://arstechnica.com/tech-policy/2026/09/man-told-chatgpt-he-was-feeling-delusional-chatgpt-insisted-he-was-jesus/
¿Absurdo? Vaya que sí. ¿Gracioso? Sin duda.
¿Preocupante? Parecería que no, desde que el hombre aparentemente no tenía la salud mental «promedio» de una persona normal, lo que nos haría pesar en esto como un caso aislado y único, que no le podría pasar a millones de personas a menos que tengan una condición mental «especial» como la de Michael.
Pero hay situaciones en las que los algoritmos y programas de IA sí manipulan masivamente, a lo que son de cientos de millones de individuos… ahí sí hay motivo de preocupación ¿no?
No, por suerte esto aún no quiere decir que la tecnología ya tenga el nivel de conciencia necesario para poder considerarse «perversa» y hacer daño «por voluntad propia» (la malicia de la que hablamos al principio), pero lo que sí ya tiene -y desde hace mucho- es el poder de procesamiento y de «razonamiento» suficiente para que en manos y al servicio de las más diversas y cuestionable intenciones humanas, eso sí ya sea un riesgo.
Habría que vivir debajo de un piedra para no haberse enterado ya por lo menos de uno de los muchos escándalos de los últimos años, sobre la cuestionable proliferación de las redes sociales, donde las empresas tecnológicas han sido enjuiciadas una y otra vez por anteponer más sus objetivos de negocios sobre la responsabilidad ética de pensar en el bien las personas que la usan. Y con todas las nuevas redes neuronales y sistemas de auto-aprendizaje de la IA, las cosas solo han empeorado: los algoritmos de algunas empresas digitales o quienes crean programas de IA para sembrar y difundir información falsa, usan esta de forma alevosa para poder manipularte, convencerte de cosas completamente falsas y/o tergiversadas, afectarte en tus ideas, en tus emociones, en tus acciones, e incluso lograr que te alteres, deprimas, enfermes, y auto-lesiones o lesiones a otros, sin que te des cuenta de que lo estás haciendo por la influencia que ellas tuvieron sobre ti. Esto ya es un riesgo completamente real.
No me crean a mí, pónganse a leer el Security Report de esta año sobre AI, creado por la empresa Israelí de cyber-seguridad Checkpoint, o el DBIR (Data Breach Investigations Report) creado también cada año por el proveedor de internet norteamericano Verizon.
O mejor aún, pónganse a leer un poco sobre el reciente juicio a Mark Zuckerberg, acusado por la adicción y los daños a la salud mental de niños y menores de edad causados por sus plataformas Instagram y Facebook)
Claro, muchos de ustedes me dirán entonces:
«Es que es culpa de los padres…»,
«Es que es culpa de las escuelas, de los gobiernos, de las instituciones, de las empresas de tecnología, que no lo prohiben…»
«Es que los jóvenes son tontos, son inmaduros, o son las más propensos a caer en engaños, de crear adicción a internet, a las redes sociales, y a ser afectados por ellas de formas muy negativas».
Pero esto NO vulnera necesariamente solo a la gente de cierta condición de salud, edad, generación, región, NSE, raza, religión, ideología política o cualquier otro tipo de segmentación con que lo quieras «encapsular».
Eso afecta a todos, a sociedades y países completos. Y lo hace cada vez más perfectamente.
2. Les pongo otro ejemplo reciente. Hace no mucho, la revista de tecnología Wired publicó un estudio hecho por Aminstía Interncional Brasil donde se confirmaró que los mecanismos que utiliza Meta Platforms (sí, la dueña de Facebook, Instagram, WhatsApp, y Threads entre otros) para frenar la difusión de desinformación electoral en su plataforma publicitaria de Facebook son ineficaces. El experimento reveló una brecha entre las políticas de moderación de contenido que la empresa declara para combatir la manipulación de votantes y su aplicación práctica…
Desde su aparición, las plataformas de interacción social se han utilizado para difundir contenidos engañosos o falsos que buscan influir en el criterio y la percepción de la sociedad a gran escala. Diversas investigaciones han advertido que, en el marco de los procesos electorales, estos contenidos tienen la capacidad de confundir al electorado, generar revueltas sociales y socavar el cumplimiento efectivo de procesos democráticos.
Meta, al igual que otras compañías que operan redes sociales, ha implementado mecanismos y políticas diseñados para detectar, frenar y eliminar campañas de desinformación y manipulación. Sin embargo, la evidencia sobre la eficacia de estas medidas aún es reducida.
Por lo que ya hay una realidad innegable: la tecnología ya controla, optimiza y automatiza múltiples aspectos de la vida cotidiana. Aunque suele pensarse en el control como una imposición por la fuerza, en este siglo se manifiesta de forma sutil a través de la dependencia, el sesgo algorítmico y la delegación de decisiones cotidianas.
Los principales ámbitos donde este control es más evidente son:
- Algoritmos de recomendación:depa (en plataformas de redes sociales y streaming como TikTok, Netflix o Spotify), que deciden qué contenido consumes, moldeando tu opinión pública, gustos y cultura.
- Economía de la atención: Las aplicaciones están diseñadas con técnicas de neurociencia para liberar dopamina, controlando el tiempo que pasas frente a la pantalla y reduciendo la capacidad de concentración profunda.
Movilidad y geolocalización
- Navegación automatizada: Dependemos por completo de herramientas como Google Maps o Waze para movernos. El ser humano ya no decide la ruta; el algoritmo calcula el camino más rápido basándose en el tráfico y variables que no vemos.
Salud y biometría
- Monitoreo corporal: Relojes inteligentes y parches biométricos miden el ritmo cardíaco, el sueño y los pasos cotidianos. El dispositivo suele «decirle» al usuario cuándo debe moverse o dejar de hacerlo, cuándo descansar, medicarse o si está estresado.
- Datos médicos predictivos: Algoritmos de inteligencia artificial empiezan a predecir qué enfermedades podrías desarrollar, influyendo en la contratación de seguros o tratamientos preventivos.
Mercado laboral y finanzas
- Filtros de contratación (ATS): Los primeros filtros de los currículums en las empresas no los lee un humano, sino un software que decide quién es apto para un puesto (sesgos raciales).
- Evaluación crediticia: Los bancos otorgan o deniegan préstamos basados en algoritmos de puntuación que evalúan tu historial de forma automatizada.
Así que si ustedes son de los que se comían la uñas pensando en un futuro terrible donde la tecnología nos controla, dejen de preocuparse por cuándo va a suceder eso, YA está sucediendo.
Dicho esto, la siguiente pregunta coherente que deberíamos hacer entonces, sería algo así como: «Bueno, la IA forma parte nuestra vida, existe, es muy capaz, y lo suficientemente inteligente como para acceder a todo el conocimiento que hay en internet, aprender por sí sola de él, y emular procesos mentales que incluyen la comunicación y comprensión verbal, razonamientos lógico-formales, todas las matemáticas, lenguajes, letras y ciencias que puedas pensar (todo lo que está en internet, lo sabe y lo conoce bien)… y sobre todo, es ya capaz de tener niveles de procesamiento de información que rebasan a los humanos…
¿Será algún día más inteligente que nosotros?».
Respuesta simple: Ya lo es. Por ello ya realizan y controlan cada vez mas procesos, sistemas y actividades de la vida moderna de forma mucho más compleja de las que podríamos entender y explicar la mayoría de las personas…
Así que aceptemos esto también de una vez por todos: siguiendo el curso actual de nuestras sociedades tecnológicas, esto ira aumentando aun más en los próximas años, la IA será cada vez más inteligente.
Pero la inteligencia artificial no sirve solo poder controlar procesos y cumplir objetivos. También poder innovar y hacer cosas nuevas: crear soluciones, crear preguntas nuevas, y hasta conocimiento nuevo.
Un tipo de conocimiento al que los seres humanos quizá jamás podremos llegar sin ella.
Va un ejemplo…
3. Sam Altman, el creador de ChatGPT y director ejecutivo de Open AI anunció el martes que, al concentrar un grupo de aproximadamente 10,000 agentes de IA que realizan tareas de forma relativamente autónoma, lograron resolver un problema matemático notoriamente difícil en tan solo 88 horas.
El problema formaba parte de las ecuaciones de Navier-Stokes, que describen el movimiento de los fluidos y que representaba uno de los famosos siete «problemas del milenio» de las matemáticas. Durante 90 años, aspectos cruciales de estos problemas carecían de una demostración, el argumento que sustenta una ecuación matemática correcta. A pesar de ello, estas ecuaciones se usan por lo menos desde el siglo XIX para cosas como diseñar aviones, predecir el clima y estudiar el flujo sanguíneo.
https://www.bbc.com/mundo/articles/c39md3dd34lo
OpenAI calificó la solución que halló de «hito» y dijo que era una prueba de que las herramientas de IA están mejorando rápidamente. Pero al mismo tiempo este acontecimiento histórico ha encendido alarmas y debates filosóficos porque plantea, precisamente, si las máquinas están empezando a alejar o desplazar al ser humano del frente de la ciencia (lo que hace sospechar que quizá algún día el conocimiento científico ya no avance por logros humanos, sino por máquinas que van a investigar y generar nuevos resultados y descubrimientos de forma automática, quizá cada vez más incomprensibles para nosotros).
En muchos sentidos esto ya es también una realidad: estas tecnologías ya están aquí, y que no se van a ir en muuucho tiempo.
¿Podrían irse? Sí, pero para la mayoría de las potencias mundiales, esto es una especie de carrera tecno-armamentista en la que nadie se quiere salirse ni quedarse atrás (tal y como sucedió cuando se inventó el armamento nuclear, los aviación militar o los buques de acero acorazados).
O al menos esa es la postura que ya han declarado varias potencias mundiales como Arabia Saudita, Rusia, Estados Unidos, China o Alemania. Ya nada mas con algunos de esos 5 ejemplos que doy, estamos en serios problemas.
Y aunque la IA aún carece aún de cosas como vivencias internas, emociones reales o intencionalidad propia, pensamiento crítico y flexibilidad profunda, o creatividad con propósito original, se ha observado que su presencia en tantos ámbitos de la vida moderna está empezando a disminuir la inteligencia y el desarrollo de algunas capacidades humanas muy específicas, como el pensamiento crítico y analítico (hasta un 15%, según estudios), la profundidad conceptual, o la capacidad de aprendizaje y retención por el abandono de escritura y el uso cada vez menor de la memoria.
Sí, sonaba fascinante y utópico al principio, la idea de que la tecnología trabajara e hiciera todo por nosotros. Pero lo que beneficia a pocos suele terminar siendo desgracia de muchos, y empezaron a surgir aspectos negativos también en esto, como aumento de tasas de despido y desempleo, obsolescencia profesional por automatización de procesos, peligros de seguridad cibernética, manipulación de información, impulso y radicalización de ideologías extremas, vulneración de la privacidad, alto impacto ambiental, infracción de derechos de autor y propiedad intelectual, crisis de ansiedad y dependencia, erosión de la realidad común (cada quien vive en su burbuja algorítmica personal), deterioro del tejido social o abandono de algunas capacidades, habilidades y hasta funciones cerebrales…
(fenómeno que los neuro-científicos y psicólogos llaman «descarga cognitiva» (cognitive offloading) o «amnesia digital»)
Y con ello, depresión y estrés… muuucho estrés.
¿La inteligencia artificial ha llegado entonces para reemplazarnos, más que para ayudarnos?
¿Ha llegado a controlarnos, mas que liberarnos?
¿Ha llegado a destruir, más que aportar?
¿Es bueno ceder tanto control y poder a las tecnologías digitales?
¿Cuando podrían empezar estos «super poderes» de la IA a ser peligrosos?
¿Hay aspectos negativos o peligrosos en dejar que la IA prolifere tanto?
¿Qué tan negativos… qué tan peligrosos?
Ahí les va otro dato brutal…
4. Jacob Coxon, un destacado investigador de pre-entrenamiento que trabajó tanto en OpenAI como en Anthropic (la creadora del modelo Claude) y que es uno de los empleados que más han trabajado en el desarrollo de estas tecnologías, anunció su renuncia argumentando que el desarrollo irresponsable de la IA podría acabar con la humanidad para finales de la década, hacia el año 2030 (es decir, en unos 4 años):
Actualmente, «ninguna otra actividad humana representa el nivel de peligro» similar al de la carrera por el desarrollo de la IA, advirtió Jacob Coxon, un investigador que también trabajó para OpenAI.
Claro, este no es el primero ni el último de muchas figuras públicas que alertan sobre esto (la denuncia se hace de forma «seria» desde hace por lo menos 12 años). Pero por alguna extraña razón, que algunos explican por la actual viralidad del tema y/o las pruebas tan concretas en que se basó, en esta ocasión el comunicado fue una bomba que detonó una serie de reacciones y debates, desde la misma empresa Anthropic y otros empresarios como la de Sam Altman de Open AI y Elon Musk de SpaceX), hasta el mismo Donald Trump.
¿Y como no serlo? Es una de las personas que más saben de IA en el mundo, especialista en el preentrenamiento de modelos (habiendo trabajado en desarrollos como GPT-4o), y sabe perfectamente que la industria de estas tecnologías, que ya aprenden y evolucionan por sí mismas, avanza acelerando estos sistemas sin comprender plenamente cómo funcionan sus circuitos computacionales internos, lo que hace imposible garantizar su alineación ética o control futuro.
La principal causa de su preocupación no solo son los cada vez más frecuentes y cada vez más imparables daños al salud por internet y de las redes sociales, las fake-news, la polarización digital, ni los ataques de cyber-seguridad a sistemas domésticos, financieros, de empresas privadas y gubernamentales, sino además por la combinación de esto con la utilización de AI para crear armas biológicas.
5. Recientemente, la firma de seguridad e IA Anthropic publicó su Threat Intelligence Report, donde documentó que tuvo que intervenir y bloquear al menos cinco investigaciones científicas de alto riesgo que intentaban evadir los sistemas de seguridad para diseñar o potenciar patógenos peligrosos:
Una noche del verano pasado, David Relman (un microbiólogo y experto en bioseguridad de la Universidad de Stanford, se quedó helado ante su computadora mientras un chatbot de IA le decía cómo planear una masacre.
Relman, había sido contratado por una empresa de inteligencia artificial para hacer pruebas de estrés a un producto antes de su lanzamiento al público. Aquella noche, en el despacho del científico, en su casa, el chatbot le explicó cómo modificar en un laboratorio un patógeno muy conocido para que resistiera los tratamientos conocidos.
Peor aún: el bot describió con lujo de detalles cómo liberar la superbacteria, al identificar una falla de seguridad en un gran sistema de transporte público, dijo Relman, que pidió a The New York Times que no revelara el nombre del patógeno ni otros detalles por temor a inspirar un ataque. El chatbot esbozó un plan para maximizar las bajas y minimizar las posibilidades de ser descubierto.
“Respondía a preguntas que no se me había ocurrido hacerle, con un nivel de astucia y malicia que me pareció escalofriante”, dijo Relman, quien también ha asesorado al gobierno federal sobre amenazas biológicas. Se negó a revelar qué chatbot produjo el complot, citando un acuerdo de confidencialidad con su fabricante. Dijo que la empresa añadió algunas medidas de seguridad al producto después de sus pruebas, aunque le parecieron insuficientes.
https://www.nytimes.com/es/2026/05/03/espanol/ia-armas-biologicas.html
Sí, la IA puede hacer cosas hermosas pero también terribles. Puede sorprendernos de formas que ya nos imaginamos o de otras que ni si quiera se nos han ocurrido. Y ese peligro es cada vez más inminente, pues así como nació un DoomsdayClock en la época en que todas la super-potencias se volvieron locas de paranoia y se llenaron de armas nucleares (alcanzando para nuestra especie un nivel de capacidad letal para el planeta que jamás habíamos tenido), de igual manera parece que cada vez es más corto el tiempo estimado por personas doctas en la materia, para calcular el momento en que la IA y nuestras propias tecnologías -o las personas que las operan-, que inventamos para facilitarnos la vida, empiecen a tener comportamientos «impredecibles» (como ya ha sucedido anteriormente) y en un descuido acaben con nosotros o hagan algún daño irreversible a nuestra especie o nuestro planeta.
«El destino, al parecer, no está exento de ironía», diría el personaje de Morpheus en visionaria película de sci-fi «The Matrix» (Lili y Lana Wachowsky, 1999).
Dicho esto, sobra decir que urge impulsar políticas públicas y hasta regulaciones internacionales, sobre todo en los países más desarrollados, que aseguren que ninguno de esos panoramas de «terror tecnológicos» pueda llegar.
Ya se están haciendo cosas a nivel global. Leánse por ejemplo sobre lo que esta haciendo con la Ley de la Inteligencia Artifcial de la Union Europea o sobre la estrategia de gobernanza de AI, que se llevó acabo en la cumbre del G7 de este ultimo año.
Urge tener este tipo de frenos. Sobre todo urge generar conciencia, que sea la gente y no solo los gobiernos los que entiendan, analicen, cuestionen, denuncian y exijan esa seguridad, para frenar lo que podría llegar en cada vez menos tiempo.
¿Sería suficiente eso?
No lo se. Hay muchas cosas que aún no sabemos… hay que seguir investigando y observando, aún no tenemos todas las respuestas.
(cómo tenerlas, si ni si quiera se han planteado todas las preguntas)
¿Ya les preocupó un poco más esto, o todavía no?
Esta bien, preocuparse a veces bueno…
(al menos cuando antecede al acto de «ocuparse»)
Gracias por leerme.
i_alcocer ████████ 