En la primera parte vimos que la IA elimina el filtro de aprendizaje que antes disciplinaba el uso del poder. Queda una pregunta pendiente, más incómoda: si ya no hace falta aprender para actuar, ¿qué clase de sujeto queda del otro lado del cuchillo?
Ontología del arma sin voluntad
Conviene empezar por lo obvio: la IA no es un agente moral. No delibera, no comprende, no elige entre el bien y el mal — es un amplificador de la intención de quien la usa. En eso se parece a un cuchillo, que tampoco delibera. Pero el cuchillo tiene límites físicos: un brazo que lo empuña, un cuerpo que se cansa, un gesto que solo llega hasta donde llega. La IA no tiene esos límites. Es un cuchillo sin alcance acotado y, como vimos en la Parte 1, sin el filtro de aprendizaje que antes disciplinaba a quien lo sostenía. El resultado es una capacidad de daño entregada a una voluntad que puede, o no, estar formada para sostenerla.
Aquí se vuelve indispensable la advertencia de Bruno Latour en Pandora's Hope. Latour desarmó la vieja falacia de que "las tecnologías son neutrales y el uso depende del humano", y señala de forma categórica:
«¿Cuál de los dos, entonces, el arma o el ciudadano, es el protagonista de esta situación? Es alguien más (un ciudadano-arma, un arma-ciudadano). Si intentamos comprender las técnicas partiendo de la premisa de que la capacidad psicológica de los seres humanos es inmutable, no lograremos entender cómo se crean las técnicas ni siquiera cómo se utilizan. Eres una persona diferente con el arma en la mano» (1).
La IA, al actuar como ese "cuchillo ilimitado", altera profundamente al sujeto que la maneja. No es un mero utensilio inerte esperando órdenes: habilita un rango de acción que la propia estructura psicológica y moral del usuario jamás habría podido ejecutar por cuenta propia. En manos de una mente irreflexiva o impulsiva, esa capacidad se vuelve destructiva, manipuladora, falsificadora. El híbrido que nace de esta unión dota a la voluntad inmadura de una capacidad de impacto inmediato que desborda su propia contención.
Por eso la pregunta “¿es ética la inteligencia artificial?” está mal planteada. La cuestión real es: ¿qué ocurre con una voluntad inmadura cuando deja de encontrar resistencia? La madurez moral no se enseña solo con normas; se entrena contra obstáculos. Si los obstáculos desaparecen, el músculo moral deja de crecer.
Sabiduría bíblica: «Todo me es lícito, pero no todo conviene; todo me es lícito, pero no todo edifica» (1º Corintios 10:23).
Pablo de Tarso desarma aquí la trampa de la omnipotencia técnica. En un mundo donde la IA nos dota de un poder casi divino para intervenir, crear o destruir con un solo clic, el límite ya no es lo que podemos hacer (lo lícito o lo técnicamente viable), sino lo que construye al ser humano (lo que edifica). El apóstol entiende que la libertad y el poder desprovistos de un propósito maduro son meras fuerzas destructivas. Al fusionarnos con el sistema —convirtiéndonos en ese híbrido "usuario-máquina" del que habla Latour—, expandimos nuestra capacidad de acción, pero no nuestra altura moral. El texto bíblico nos exige levantar la mirada del botón de ejecución para hacernos la única pregunta relevante: ¿este poder nos hace mejores o simplemente nos hace más peligrosos?
Límite ético: No utilices una tecnología si no eres capaz de comprender, controlar o reparar el daño que su uso pueda causar. El alcance de tus herramientas nunca debe superar el tamaño de tu responsabilidad.
Pilar de la causalidad directa: Si tu conciencia no es capaz de abarcar y responder por el alcance del daño potencial de tu acción, tu mano no debe rozar la empuñadura del sistema.
Bibliografía:
- Latour, B. (1999). Pandora's hope: Essays on the reality of science studies. Harvard University Press. ISBN: 978-0-674-65335-1.
