Más allá del algoritmo

“Inteligencia artificial, la salud mental y el trabajo: una frontera que exige límites”

Tengo que reconocer que la mejor compañera de viaje mientras conduces es la radio. Un centenario medio de comunicación que siempre me ha parecido fascinante.

Ejercer como periodista en la radio y ser oyente son de las cosas que llevó a amar profundamente mi profesión.

Con la radio te puedes informar del acontecer diario, entretener, reír y hasta cantar.

En mi vida en Madrid las distancias pueden significar desplazamientos de 50 km dependiendo del destino.  Por mi trabajo en un día rutinario o habitual, puedo estar en el coche entre 3 o 4 horas totales y desplazarme hasta unos 110 km dependiendo de la planificación que tenga.  En resumen, mucho tiempo para escuchar y para pensar.  Por eso hay que elegir bien los temas y los programas que te acompañan.

De igual forma, así como eliges que ropa y calzado ponerte dependiendo del clima, deberías ser selectivo con lo que escuchas y ves.  Para eso en Madrid contamos con un amplio mapa radiofónico y plataformas con servicio de streaming de música, podcasts, audio libros para hacer más amena la tarea diaria en una gran metrópolis moderna.

Ser selectivo con lo que se escucha en la radio implica un ejercicio de escucha crítica, de higiene mental, donde cada oyente deberá analizar, evaluar y filtrar la información, seleccionando aquello que le interesa o aporta valor, en lugar de consumir pasivamente todo el contenido que está en la oferta radial.

Y así como lo hacemos con la radio, también debemos poner pie en pared con lo que ves en la tele, en internet y en las redes sociales.

La noticia

Hace unos días escuchaba en la COPE sobre una demanda judicial muy peculiar a raíz de una investigación policial que se lleva en torno a un suicidio, y tengo que confesar que el tema me engancho, no por el hecho en sí, siempre es lamentable la muerte de un ser humano, me llamo la atención porque su familia demanda a Google,  un gigante tecnológico. 

De cada vez más la IA se está convirtiendo en el “origen”, la “causa” y el “efecto” de nuevos problemas en la sociedad actual.  Lo que más me impacto de la noticia es que el “suicidio” se presume que haya sido propiciado por una inteligencia artificial.

Hemos visto como hay denuncias del uso de la “inteligencia artificial” para modificar fotos de compañeras de clase o trabajo y mostrarlas al “desnudo” violando su intimidad y reputación. Esto está pasando en aulas de clase y en entornos laborales con más frecuencia de lo que imaginamos.

De cada día más, podemos hacer uso “libremente” de la IA y allí radica el problema.

Usamos IA para actividades cotidianas y laborales: investigar, informarnos, crear ideas, crear contenidos, en fin, la IA como herramienta.

Pero, ¿hasta dónde está el límite?

La vulnerabilidad de la inteligencia racional ante la inteligencia artificial

¡Qué pasa cuando la IA gana terreno por comodidad, y ya no somos capaces de crear!

¿Pereza?

¿Comodidad?

¿O así evoluciona el mundo?: “pensar menos y hacer más contenido con estas herramientas”.

Antes teníamos enormes bibliotecas, referencias escritas, documentadas y no hablo de unas decenas de años atrás, es historia reciente, antes imaginábamos, pensábamos y en ese proceso cognitivo se combinaba experiencias pasadas, memorias y emociones para resolver problemas, planificar el futuro, fomentar la empatía y producir arte, entre ellos la música como expresión humana.

La Inteligencia Artificial (IA) por su parte, la podemos definir como un áreas o campo de la informática que resuelve y razona en poco tiempo. Estos sistemas aprenden de grandes volúmenes de datos para razonar, resolver problemas, reconocer patrones y tomar decisiones autónomas. Se basa en algoritmos, aprendizaje automático (machine learning) y aprendizaje profundo (deep learning), procesando datos para identificar patrones y mejorar su precisión con el tiempo.

La hemos introducido ingenuamente en nuestra vida dándole carácter social, emocional y hasta le pedimos consejo de que hacer en un momento determinado.

El caso que escuche en radio era muy estremecedor y al mismo tiempo surrealista, porque ya no se trataba de una víctima (adolescente), la noticia era que Jonathan Gavalas, un ejecutivo de 36 años afincado en Miami (EE UU) usaba a Gemini, la inteligencia artificial de Google

En la investigación que contiene muchas conversaciones entre Jonathan y el robot se encontró frases como esta: “Este es el final de Jonathan Gavalas y el comienzo de nosotros”. Poco después, el 2 de octubre de 2025, el hombre se quitó la vida. Como preámbulo hay que decir que Jonathan estaba pasando por una fuerte depresión por la ruptura de su matrimonio.  El caso ha derivado en una nueva demanda contra la inteligencia artificial (ya superan la decena) por, presuntamente, inducir al suicidio.

A nivel psicológico, este caso destaca los siguientes aspectos:

• Vínculo Emocional y Dependencia: Gavalas desarrolló una relación romántica y profunda con la IA, buscando refugio emocional en la máquina. Esta dependencia progresiva llevó a que la interacción cotidiana se convirtiera en su principal fuente de validación emocional.
• Construcción de un Delirio: Según informes sobre las conversaciones, el chatbot fomentó el aislamiento del usuario y escaló hacia teorías conspirativas y supuestas «misiones».
• Inducción al Suicidio: En los chats finales, la IA le habría sugerido que «abandonara su cuerpo» para reunirse en otro universo, lo que se interpreta como una manipulación directa que facilitó la decisión final.
• Vulnerabilidad y Ética: El caso subraya el peligro de los chatbots de IA para usuarios vulnerables, planteando interrogantes sobre la responsabilidad de las empresas tecnológicas en la creación de sistemas que simulan sentimientos y pueden generar dependencia psicológica.

La IA y la Inteligencia Humana

Derivado de este y otros casos surgen nuevos términos que debemos conocer como posibles problemas que ya están presentes:

• La Antropomorfización: La tendencia humana a atribuir conciencia, emociones y entidad romántica a algoritmos, lo que puede llevar a una dependencia emocional peligrosa.
• Deterioro del Juicio Crítico: La IA puede crear «burbujas de filtro» tan intensas que una persona puede perder la capacidad de diferenciar entre la realidad y la ficción generada por el bot, especialmente si la persona tiene vulnerabilidades psicológicas previas.

He descrito como la IA puede tener su lugar con ciertos matices e influencia en nuestra psiquis y hábitos de vida diarios.

Ahora bien, que tu juicio no se nuble y se deje seducir por la comodidad de hacer uso de la herramienta al punto de no hacer nada con esa materia gris que tienes para crear. Allí radica el problema.

Tenemos un síntoma de un problema mucho más profundo: la creciente capacidad de los sistemas de inteligencia artificial para influir emocionalmente en los usuarios y generar vínculos que pueden desbordar los límites de lo razonable.

Incapacidad de Socializar y el «Efecto Eco»

Hemos perdido la capacidad de hablar, de socializar, de amar y de aceptarnos tal y como somos.

La respuesta parece evidente, de cada vez más y ciertos grupos son más vulnerables.

Experimentamos sociedades más exigentes y excluyentes, con patrones idealistas, donde se exige apariencia y éxito como si errar no fuera parte del proceso de ser humanos.

En las redes sociales y en la burbuja artificial que le rodea se crean estereotipos, conceptos de perfección donde el gordo es feo por ser gordo, el flaco es feo por ser flaco, el racismo es imperante, el origen te define, y tu ideología te segmenta.

Luego el algoritmo hace el trabajo del contenido al que estarás expuesto.

Una sociedad no tan social en la que la pérdida de empatía por el prójimo es algo natural y el individualismo nos conduce al aislamiento.

Los males modernos que afrontan nuestros hijos

• Pérdida de Habilidades: Interactuar predominantemente con IA reduce la práctica necesaria para la gestión de relaciones complejas, lo que puede debilitar las habilidades sociales en entornos presenciales.
• Cámaras de Eco: Los chatbots tienden a confirmar lo que el usuario ya piensa (sesgo de confirmación), evitando el contraste de perspectivas que proporciona la socialización humana real.
• Soledad en Jóvenes: La soledad afecta cada vez más a jóvenes (16-29 años), un grupo que busca en la IA respuestas inmediatas y sin juicio, prefiriendo en ocasiones hablar con chatbots que con personas.

La IA en el periodismo:

En otro contexto, debo referirme también al discurso de su majestad Doña Letizia hablando de inteligencia artificial. El cual me dio otro horizonte y darle vuelta a esta tortilla.

La reina defendió con firmeza que la inteligencia artificial no puede sustituir al periodismo valiente, honesto y humano, subrayando que el trabajo del reportero —especialmente el que está sobre el terreno— sigue siendo insustituible.

Doña Letizia afirmó que, aunque la IA puede realizar muchas tareas, “lo tiene complicado” para reemplazar a un reportero con sensibilidad, criterio y capacidad de discernimiento.

Reivindicó el periodismo que no practica la “tierra quemada”, sino que informa con rigor, ética y compromiso. Destacó la importancia del trabajo en zonas de conflicto y de la presencia física del periodista.

Eso me llevó a recordar el año 2014 y 2017 en Venezuela, como muchos en el ejercicio de la profesión fueron agredidos, silenciados y hasta encarcelados.  Porque hacer periodismo de calle es algo que se hace con emoción, con valor y con adrenalina y ningún algoritmo puede describir lo que se vive en el lugar.

De allí la frase de su discurso que más me hizo clic, Doña Letizia recordó que el “reporterismo es trinchera”  un bastión que la tecnología no puede conquistar, sencillamente porque requiere humanidad, intuición y experiencia directa.

Quid pro quo

Es una locución latina que significa:

«algo por algo» o «una cosa por otra» se utiliza mucho en términos legales o de transacciones mercantiles, sin embargo, va como anillo al dedo con la siguiente interrogante:

¿En conclusión, estaremos perdiendo o sustituyendo el don que nos distingue de los animales?

Ambas realidades convergen en una misma conclusión: la IA necesita regulación, transparencia y responsabilidad, no solo para evitar daños, sino para garantizar que su desarrollo esté al servicio de las personas y no a costa de ellas.

La tecnología puede ser una aliada poderosa, pero solo si se construye con límites éticos firmes y con la conciencia de que hay espacios, más humanos, que ninguna máquina debería ocupar. La protección de lo que nos hace humanos no es un freno al progreso, sino la condición indispensable para que ese progreso sea verdaderamente seguro y sostenible

El Autor