Errare humanum est. ¿La IA hereda nuestro derecho a equivocarnos?
/>Desde sus orígenes, el ser humano se ha estado inventando a sí mismo hacia afuera. Toda la historia de la técnica puede entenderse a través de lo que Ernst Kapp denominó «proyección orgánica»: la tendencia a crear herramientas como prótesis de nuestro propio cuerpo.
La mano por sí sola tiene está limitada por su propia fuerza y alcance; por eso apareció la piedra tallada, y luego el martillo, la palanca, la rueda: prolongaciones que multiplicaron nuestra capacidad física sin dejar nunca de ser, evidentemente, otra cosa. Nadie confundió jamás un martillo con una mano.
Nuestras piernas, de igual modo, solo nos permiten llegar hasta donde la biología manda; por eso domesticamos al caballo, inventamos la carreta, el barco, el motor, el avión.
El ojo se extendió en el telescopio y el microscopio; la voz, en el teléfono; la memoria, en la escritura.
Décadas después, Marshall McLuhan sintetizó este fenómeno al definir las tecnologías como «extensiones del ser humano», mientras que Sigmund Freud describiría al sujeto moderno como un «dios con prótesis» . En todos los casos, la lógica subyacente es la misma: crear herramientas que multiplican lo que podemos hacer, pero sin intentar reemplazar lo que somos.
El salto a la inteligencia artificial
Y entonces llegamos a la última frontera: el razonamiento. Ahí algo cambia, y cambia de naturaleza, no de grado.
Porque a esta nueva extensión no la llamamos «calculadora potente» ni «motor de inferencia», como hubiera sido técnicamente honesto llamarla. La llamamos inteligencia. Le pusimos el nombre de la cualidad que, durante toda nuestra historia, nos definió a nosotros mismos frente a la piedra, el caballo y la máquina.
Por primera vez, no construimos una herramienta que se parezca a un órgano de nuestro cuerpo: construimos una herramienta a la que exigimos parecerse a nuestra esencia. Le pedimos que piense como pensamos, que hable como hablamos y que hasta dude como dudamos. Y, sin embargo, sigue siendo una máquina más.
Como demostró John Searle con el célebre experimento de la «Habitación China», el simple cálculo de probabilidades no equivale al entendimiento ni a una mente que delibera. Al bautizarla como «inteligencia» adoptamos, en los términos de Daniel Dennett, una «actitud intencional» desmedida: es la primera vez en la historia que le otorgamos oficialmente rasgos humanos a una tecnología.
La responsabilidad indelegable
Y de esa trampa semántica nace una confusión ética y social peligrosa.
Al atribuirle «inteligencia», empezamos a decir que «la máquina se equivoca» cuando falla, prestándole a un algoritmo conceptos que son exclusivos de las decisiones humanas.
Pero como enseñaba Séneca, el verdadero error exige un sujeto dotado de discernimiento y capacidad de deliberar; lo del modelo estadístico es un simple error matemático; la máquina no sabe lo que está haciendo, ni si está bien o mal..
La IA no hereda, ni puede heredar, nuestro derecho a equivocarnos, porque no cumple el requisito básico para equivocarse: poder hacerse cargo de sus decisiones
Como advirtió Hans Jonas El principio de responsabilidad, la tecnología jamás posee autonomía ética y el ser humano no puede renunciar a pensar por sí mismo ni pasarle la culpa a los sistemas técnicos.
Cuando un algoritmo falla en la gestión pública o en un motor de riesgo, la responsabilidad nunca estuvo en el código ni en la piedra: sigue siendo, ineludiblemente, de nosotros.
Nota del autor: Fiel al argumento central de este ensayo, he utilizado herramientas de Inteligencia Artificial exclusivamente como una «prótesis» técnica para refinar el estilo, la agilidad y la claridad del texto. Sin embargo, el análisis, las ideas y, sobre todo, la responsabilidad indelegable por cualquier error en estas líneas, son estrictamente mías.
Referencias
- Dennett, D. C. (1991). La actitud intencional (M. Ujaldón, Trad.). Gedisa. (Obra original publicada en 1987).
- Freud, S. (2010). El malestar en la cultura (R. Rey Ardid, Trad.). Alianza Editorial. (Obra original publicada en 1930).
- Jonas, H. (1995). El principio de responsabilidad: Ensayo de una ética para la civilización tecnológica (J. M. Fernández Retana, Trad.). Herder. (Obra original publicada en 1979).
- Kapp, E. (1877). Grundlinien einer Philosophie der Technik: Zur Entstehungsgeschichte der Cultur aus neuen Gesichtspunkten [Líneas fundamentales de una filosofía de la técnica]. George Westermann.
- McLuhan, M. (1996). Comprender los medios de comunicación: Las extensiones del ser humano (P. Ducher, Trad.). Paidós. (Obra original publicada en 1964).
- Searle, J. R. (1980). Mentes, cerebros y programas. Behavioral and Brain Sciences, 3(3), 417-424.
- Séneca, L. A. (2018). Cartas a Lucilio (V. Cristóbal, Trad.). Cátedra. (Obra original escrita c. 65 d.C.).
