¿Puede un algoritmo tener brújula moral? Reflexiones sobre la obra de José Ignacio Latorre
Análisis de ‘Ética para máquinas’ de José Ignacio Latorre bajo el prisma de la nueva inteligencia física.
La fragilidad del juicio: ¿Podemos codificar la ética en el silicio?
Reflexiones sobre ‘Ética para máquinas’ de José Ignacio Latorre
El avance de la Inteligencia Artificial nos ha situado en una encrucijada que la ingeniería, por sí sola, no puede resolver. Si aceptamos la premisa de Hans Moravec de que las máquinas son la continuación de nuestra herencia evolutiva, debemos hacernos la pregunta que José Ignacio Latorre plantea con una lucidez quirúrgica: ¿con qué valores van a habitar el mundo nuestros hijos mentales?
En su obra ‘Ética para máquinas’, Latorre no solo analiza algoritmos; analiza la esencia de la responsabilidad humana. Como explorador de esta frontera entre mente y materia, encuentro en su texto tres pilares que definen el propósito de este espacio.
1. La delegación del juicio moral
Uno de los puntos más inquietantes del pensamiento de Latorre es la transición de la «herramienta» al «agente». Mientras que un martillo no decide dónde golpear, un algoritmo de conducción autónoma o un agente de IA física toma decisiones en milisegundos que tienen consecuencias éticas directas.
Latorre nos advierte: delegar el juicio no es un avance técnico, es una renuncia. Si permitimos que las máquinas decidan sin un marco ético explícito y auditable, no estamos creando una tecnología superior, sino una sociedad más irresponsable. Para Máquinas Cognitivas, esto significa que la «cognición» no es solo capacidad de cálculo, sino capacidad de discernimiento.
2. La IA como el espejo de nuestra propia ética
Latorre sostiene que intentar programar la ética en una máquina nos obliga, por primera vez en la historia, a definir qué es lo que nosotros consideramos «bueno». Las máquinas no son subjetivas; son implacables en su lógica. Al intentar codificar leyes morales, descubrimos nuestras propias contradicciones.
Este es el punto donde la Ciencia de Datos se encuentra con la filosofía. Al estudiar la estructura de los datos, nos damos cuenta de que el sesgo no está en el silicio, sino en el rastro que hemos dejado como especie. La IA de Latorre es un espejo donde la humanidad se ve obligada a mirarse antes de seguir construyendo.
3. Del determinismo cuántico a la libertad algorítmica
Como físico cuántico, Latorre aporta una perspectiva fascinante sobre el libre albedrío. Si el universo no es determinista, ¿puede una máquina ser realmente libre o será siempre una prisionera de sus condiciones iniciales?
Esta reflexión es vital para entender la IA Embodied. Una máquina que interactúa con el mundo físico debe enfrentarse a la incertidumbre. En la intersección entre la física y la ética, surge la duda: ¿podremos algún día dotar a una máquina de una «brújula interna» que no dependa solo de una función de optimización, sino de una comprensión del valor de la vida?
Veredicto intelectual
‘Ética para máquinas‘ es mucho más que un libro sobre tecnología; es un manual de supervivencia para la era de la singularidad. Latorre nos recuerda que la técnica sin humanismo es una forma de ceguera.
Inauguramos La Biblioteca con esta obra porque establece nuestra regla de oro: en este sitio, estudiaremos cómo las máquinas aprenden a «hacer», pero nunca olvidaremos preguntarnos por qué deben —o no deben— hacerlo.
Si Latorre nos plantea el dilema ético, el siguiente paso es entender el cuerpo que habitará ese dilema. Por eso, nuestra próxima parada en la Biblioteca será la Paradoja de Moravec en ‘El hombre mecánico’ (‘Mind Children’).