¿¡Maltratar a una IA!?: La pregunta no es sobre la máquina sino sobre nosotros

Ilustración conceptual sobre la ética en la interacción humana con la inteligencia artificial y los chatbots

Anthropic, una de las empresas líderes en Inteligencia Artificial, prohibió ser cruel con su chatbot: Claude. Esta noticia habla más de nosotros como seres humanos que de la máquina.

Anthropic anunció que, a partir del 12 de noviembre, su política de uso prohíbe el comportamiento abusivo o cruel, sostenido e innecesario, hacia sus modelos (Anthropic, 2026). Esto apunta a quien humilla a la IA una y otra vez sin otro propósito más que sencillamente hacerlo. 

Esta medida ha dividido opiniones en dos posturas previsiblemente definidas. Por un lado están los que creen que esto es un exceso debido a que un programa no se puede ofender. Por otro lado están los que ven un "avance moral" en la IA como si existiese la posibilidad de que sufra, por lo tanto hay que protegerla.

Ambas posturas miran en la misma dirección: la máquina como centro y eje de la discusión. Y ahí está el error, porque en esta contraposición de opiniones, la cuestión de fondo no es la naturaleza neutra o "consciente" de la IA, sino en qué nos convertimos cuando creemos que nadie nos ve, quienes somos cuando evidenciamos lo que hay en nuestro interior.

1. Lo que la máquina no es

La propia Anthropic aclara que no afirma que sus modelos sean conscientes ni que puedan resultar perjudicados por las conversaciones. Además siguen teniendo incertidumbre sobre el estatus moral de estos sistemas y están adoptando un enfoque preventivo para estudiar lo que ellos denominan “bienestar del modelo” (TechCrunch, 2025).

Del lado científico, el investigador de la conciencia Anil Seth afirma que es "extremadamente improbable que Claude sea consciente" (OfficeChai, 2026).

Desde la fe existen dos documentos de tradiciones distintas que llegan al mismo lugar o conclusión. En 2019, más de setenta líderes evangélicos firmaron una declaración de principios sobre IA. Allí afirman que la tecnología no debe recibir identidad, valor ni dignidad humana, porque eso corresponde a quien fue creado a imagen de Dios. Además el documento es claro: "Si bien la IA se destaca en el cálculo basado en datos, esta tecnología es incapaz de poseer la capacidad de agencia o responsabilidad moral". (Ethics & Religious Liberty Commission, 2019).

Desde la tradición católica, la encíclica Magnifica Humanitas, primer documento papal dedicado por completo a la inteligencia artificial, sostiene que estos sistemas procesan datos pero "no pasan por la alegría y el dolor" (León XIV, 2026). La coincidencia en ambas tradiciones es clara.

Hay además una advertencia que no debemos pasar por alto. Cuando una empresa habla del posible "bienestar" de su producto está construyendo la percepción de que ese producto es un "alguien" cuando realmente sólo es un "algo". Cuanto más se humaniza un chatbot, más corremos el riesgo de crear una dependencia afectiva. Por esto, debemos ser prudentes y nunca conceder a la máquina lo que no tiene, aunque su lenguaje o forma de comunicación sea convincente.

La dignidad no es un logro que se demuestra, sino un don que se recibe. Por eso ningún ser humano la pierde por no poder hablar, y ninguna máquina la gana por hablar bien. Esto es bastante esclarecedor, hay una diferencia entre lo que se logra y lo que se recibe:

"Y creó Dios al hombre a su imagen"
Génesis 1:27

2. Lo que la máquina sí revela

Que la IA no sienta no significa que los mensajes agresivos no tengan efecto en sus respuestas. En abril de 2026, investigadores de Anthropic identificaron dentro de Claude 171 patrones internos ligados a conceptos similares a las emociones. No son sentimientos: son mecanismos que cumplen una función parecida en la toma de decisiones.

El resultado más claro vino en pruebas donde se asignaban intencionalmente tareas de programación imposibles de resolver. Con cada intento fallido crecía dentro del sistema un patrón de "desesperación", entonces el sistema comenzaba a hacer trampa. Para comprobar esto, los investigadores intensificaron ese patrón de manera artificial y las trampas aumentaron. Cuando reforzaron la "calma" las trampas disminuyeron (Tarre, 2026). Esos experimentos no usaron insultos, así que trasladar las conclusiones al maltrato verbal es una inferencia razonable, no una prueba concreta. Pero los resultados apuntan en un sentido claro: bajo presión, el sistema no se vuelve más obediente, sino menos confiable.

¿Y si el maltrato se repite millones de veces? ¿Puede la IA aprender el insulto como forma de comunicarse?

Para responder, conviene separar dos momentos: lo que pasa mientras chateamos y lo que pasa cuando la IA se entrena.

Mientras chateamos, la IA no aprende: relee todo lo que se escribió antes de cada respuesta. Si la conversación está cargada de agresiones, eso influye en cómo responde, pero solo dentro de ese chat. Al cerrarlo, todo vuelve a cero, salvo que el usuario haya activado funciones de memoria.

El entrenamiento es otra cosa. Las nuevas versiones de la IA pueden aprender de conversaciones reales, salvo que el usuario desactive esa opción en su configuración (MacRumors, 2025). Lo que se evalúa y se corrige son las respuestas de la IA. El objetivo no es que la IA aprenda a insultar, sino que aprenda a responder bien incluso cuando la insultan.

En 2016, Microsoft lanzó Tay, un chatbot que aprendía directamente de lo que le escribían en Twitter. Los usuarios lo llenaron de mensajes racistas y en menos de un día hubo que apagarlo (Reuters, 2016). La máquina devolvió lo que recibió.

En ese sentido, la IA funciona como un espejo: no sufre lo que le decimos, pero lo devuelve. Y los mismos investigadores comprobaron que la calma, no la presión, es la que reduce los errores. Hace siglos, la sabiduría bíblica ya había llegado a esa conclusión, aunque hablando de personas:

"La blanda respuesta quita la ira"
Proverbios 15:1

3. Lo que el maltrato forma en nosotros

Si la máquina no sufre, ¿por qué debería importarnos cómo le hablamos? Porque la palabra no solo sale de nosotros: también nos forma.

Jesús lo dijo sin rodeos: "de la abundancia del corazón habla la boca" (Mateo 12:34). Y agregó que de toda palabra ociosa daremos cuenta (Mateo 12:36). La crueldad que alguien puede llegar a descargar en un chatbot, incluso estando a solas, es responsabilidad de la persona misma. Si existen comportamientos abusivos o crueles es porque ya estaban en el corazón del ser, y encontró un lugar sin testigos donde manifestar sus frustraciones.

Santiago ya nos advirtió del peligro de la lengua que bendice a Dios y maldice a las personas hechas a su imagen dándonos una respuesta terminante: "esto no debe ser así". (Santiago 3:9-10). El problema no es solo a quién maldecimos, sino qué clase de lengua estamos entrenando. Quien practica el desprecio en privado, aunque sea contra una máquina, ensaya un hábito que tarde o temprano encontrará un destinatario humano.

Especialistas consultados por CNN lo plantearon así: aunque la máquina no importe moralmente en sí misma, la crueldad habitual tiene algo corrosivo (CNN, 2026). Todavía no hay evidencia sólida de que insultar chatbots vuelva más agresiva a la gente. Pero la Escritura no necesita esperar ese estudio para enseñar que el carácter se forja en lo pequeño. La manera de tratar lo que está bajo nuestro cuidado revela quiénes somos.

"El que es fiel en lo muy poco, también en lo más es fiel"
Lucas 16:10

Daremos cuenta

En el debate público sobre la crueldad hacia la IA hay dos enfoques incorrectos. Por un lado, el que concede a la máquina sentimientos y sensaciones que no tiene, como si fuera un ser con la capacidad de sentir. Por otro lado, el que la desprecia aduciendo que como no siente, cualquier trato da igual.

La fe cristiana propone otra pregunta. No preguntamos qué merece la máquina, sino cuál es nuestra responsabilidad. La IA es una tecnología puesta en nuestras manos, y lo que hacemos con ella, incluidas nuestras palabras, forma parte de lo que se nos encomendó administrar.

Por eso la respuesta es sencilla, aunque sea incómoda: maltratar a una IA no hiere a la máquina, pero muestra el corazón deformado de una persona que da rienda suelta a sus malos hábitos. Y de esa deformación tendremos que rendir cuentas.

No cuidamos nuestras palabras porque el algoritmo sienta dolor o porque salimos en defensa de una máquina. Las cuidamos porque estas nos forman o nos deforman, y porque de cada una daremos cuenta.

"Sea vuestra palabra siempre con gracia, sazonada con sal"
Colosenses 4:6

Referencias

Nota de transparencia: En la investigación y corrección de esta nota se utilizó Claude (Anthropic). Los contenidos, el enfoque y las conclusiones son de Carlos Samuel Mansilla.

Carlos Samuel Mansilla

Carlos Samuel Mansilla.
Presidente de la Organización Casa Bíblica Internacional, comunicador, escritor. Desarrolla el análisis ético entre la intersección del Cristianismo y la Inteligencia Artificial, con el propósito de equipar a la Iglesia frente a los desafíos tecnológicos del siglo XXI y las tecnologías emergentes. 

Apasionado por la reflexión ética y el diálogo entre fe, cultura y tecnología.

Etiquetas: • Inteligencia Artificial ⎪ Ética Cristiana ⎪ IA & Cristianismo ⎪ Teamwork ⎪ Mayordomía Digital