La IA no es un fenรณmeno nuevo. La humanidad, desde sus inicios, ha intentado crear mรกquinas y autรณmatas, bien para ponerlas a nuestro servicio, o para extender nuestras capacidades humanas. Muchas de estas historias reflejan la admiraciรณn por estas creaciones y, al mismo tiempo, el temor a la pรฉrdida de control de las tecnologรญas avanzadas. Podrรญamos recordar algunos mitos griegos, como la creaciรณn de Talos, el gigante de bronce muerto por Medea, o la estatua en marfil de Galatea a la que Pigmaliรณn dio vida.
En la Edad Media hay otras leyendas acerca de la creaciรณn de seres con vida, como el enigmรกtico Baphomet de los templarios o los homรบnculos de Paracelso. Agreguemos las tradiciones judรญas sobre la creaciรณn de un ser de barro llamado Gรณlem, que era animado por medio de un ritual mรกgico. En la รฉpoca moderna tenemos la monstruosa creaciรณn del doctor Vรญctor Frankestein, en la novela de Mary Shelley, o el niรฑo de madera Pinocho, creado por el carpintero Gepetto en la novela de Carlo Collodi. En ambos casos, se hace una llamada a la responsabilidad de la ciencia y de la acciรณn humana, para mantenerse dentro de en unas pautas รฉticas, que veremos que es un elemento fundamental. 
Tambiรฉn se crearon otros autรณmatas, que es la palabra que utilizaban los griegos, artificios o ingenios que funcionaban como el mecanismo de un reloj, aparentando un comportamiento autรณnomo o inteligente. En el siglo XX surgen los primeros ยซrobotsยป, utilizando un tรฉrmino proveniente del checo que indica un trabajo forzado. Curiosamente, Aristรณteles defendรญa en la Polรญtica[1] la fabricaciรณn de autรณmatas para la realizaciรณn de tareas mecรกnicas, pues podรญa traer la aboliciรณn de la esclavitud por hacerla innecesaria.
La IA se empezรณ a crear en los aรฑos 1950. En su progreso paulatino siempre se tratรณ de imitar la inteligencia humana: primero, algoritmos o instrucciones lรณgicas para llegar a un objetivo; luego, sistemas expertos, basados en conocimientos aceptados como correctos; sistemas de aprendizaje automรกtico, para no depender de una colecciรณn limitada de conocimientos; redes neuronales para tratar con datos complejos y relaciones no lineales; visiรณn artificial para el reconocimiento de patrones y asรญ emular nuestro contacto con el entorno; y, por fin, el procesamiento del lenguaje natural que permite interactuar con los seres humanos. Todavรญa no estรก muy perfeccionada, pero el rรกpido avance que estรก teniendo esta tecnologรญa no deja de sorprendernos. Ya se pueden generar voces, fotos e incluso vรญdeos que simulan la apariencia humana. Con ellos es posible que en un futuro cercano perdamos nuestra capacidad de distinguir los hechos de la ficciรณn creada por la IA, sin forma de poder dilucidarlo.
Algunas de las creaciones que mencionamos nos han causado temor, porque pueden ser mรกs poderosas que nosotros, nos pueden reemplazar, se pueden utilizar para dominar el mundo, o se parecen tanto a nosotros que nos dan miedo. Todas estas desviaciones pueden provocar un problema de convivencia con las mรกquinas.
Cuestiones รฉticas
Ademรกs, se nos plantean una serie de problemas รฉticos relacionados con la IA, como por ejemplo:
- La discriminaciรณn algorรญtmica, provocada porque los sistemas de IA pueden haber sido entrenados con datos que incluyen prejuicios culturales y sociales. Esto puede conducir a la discriminaciรณn e injusticia en รกreas como el empleo, la vivienda y los prรฉstamos. Hay muchos casos documentados de ello[2].
- La falta de transparencia en los algoritmos, de forma que podamos entender cรณmo se toman las decisiones y en quรฉ se basan, para que se pueda auditar su uso. Muchos algoritmos de IA son opacos y difรญciles de entender, lo cual es especialmente problemรกtico en รกreas como la atenciรณn mรฉdica, donde las decisiones de la IA pueden afectar la salud y el bienestar de las personas.
- ยฟQuiรฉn es responsable cuando un algoritmo de IA toma una decisiรณn errรณnea? ยฟEs el programador, la empresa que lo implementรณ o el algoritmo mismo? Si entendemos por ยซhacerse responsableยป el tener un elevado criterio del deber o del compromiso con las normas establecidas y asumir las consecuencias positivas o negativas de nuestros actos, vemos que hay un nexo entre responsabilidad y conciencia, por lo que de nuevo se nos plantea un problema con las acciones de la IA.
- ยฟEs admisible que haya armas autรณnomas, por ejemplo drones, que realicen operaciones policiales o militares? Esto podrรญa llevar a la escalada de conflictos y a la pรฉrdida de control humano sobre el uso de la fuerza militar. El relato fantรกstico de la saga de Terminator se vuelve realidad si hay una ยซSkynetยป capaz de controlar el arsenal militar de los Estados Unidos con independencia de los humanos.
- Debemos asegurar que los seres humanos mantienen el control y la responsabilidad de las decisiones que afectan a su bienestar o su vida en รกreas crรญticas como la medicina, la justicia social, la seguridad nacional, la defensa, etc. No es aconsejable dejar el control absoluto de sus acciones a la IA.
La IA se estรก adentrando en un terreno en el que nos creรญamos insuperables. Nos considerรกbamos los รบnicos animales racionales. En muchas culturas y tradiciones se destacรณ la importancia de lo mental para identificarnos como humanos. Pero las capacidades humanas han sido progresivamente emuladas y superadas por las mรกquinas. Ya no es solo la fuerza o las capacidades fรญsicas. Primero fue el cรกlculo matemรกtico, y no nos sorprende que cualquier pequeรฑa calculadora (o nuestro telรฉfono mรณvil) sea mรกs rรกpida que nosotros en una divisiรณn de diez cifras. Luego, la memoria: ahora un pequeรฑo chip puede almacenar mรกs libros que la cรฉlebre Biblioteca de Alejandrรญa. El reconocimiento de patrones, que permite rรกpidamente a la IA registrar parecidos y diferencias para, por ejemplo, una mejor orientaciรณn espacial manejando un mapa. Y recientemente el avance se ha producido en el procesamiento del lenguaje natural, pudiendo traducir, resumir o redactar textos de forma superior a como lo hacen los humanos. Ademรกs, estamos descubriendo la potencia de la IA en la creaciรณn de imรกgenes y sus capacidades artรญsticas, pues aprenden de estilos musicales o literarios previos y pueden componer mรบsica o escribir poesรญa de forma ยซcreativaยป. Algunas tareas que identificรกbamos como creativas se pueden generar con IA, mediante la combinaciรณn de elementos que participaron en su aprendizaje, como hacemos nosotros mismos.
Inteligencia humana
Los crรญticos con la IA dicen que su uso nos impide desarrollar algunas capacidades mentales humanas, como la lectura, la reflexiรณn, la memoria, la escritura, etc. Debemos admitir que la mente es un elemento fundamental en el desarrollo del ser humano. En las tradiciones esotรฉricas se sugiere que la ยซchispa divinaยป o chispa mental es esencial en la naturaleza humana, y que la tarea del ser humano es descubrir y cultivar este talento mediante la prรกctica espiritual y la bรบsqueda de la verdad. Si perdemos nuestras aptitudes mentales, podrรญamos ser ยซmenos humanosยป. Pero las mรกquinas no tienen esos conceptos de la finalidad o de la trascendencia.
Nos creรญamos los รบnicos seres inteligentes, pues aunque podamos decir que los animales tienen en ocasiones un comportamiento inteligente, no son conscientes de ello. Ahรญ es donde radica la diferencia. Las mรกquinas con IA, aunque sean tan inteligentes o mรกs que nosotros, no son conscientes de su propio funcionamiento, ni son capaces de tomar decisiones independientes. Son herramientas que pueden ser utilizadas por los seres humanos para lograr objetivos especรญficos, pero no tienen una comprensiรณn de sรญ mismas o del mundo que las rodea. La IA no es algo que pueda reemplazar a los humanos, sino que es una mera extensiรณn de nosotros mismos. Es un conjunto de recursos de programaciรณn muy avanzados, pero no se parece al conocimiento humano. El ser humano no es una computadora.
Quienes se asombran de las capacidades inteligentes de la IA es porque solo ponen el foco en la abstracciรณn y el razonamiento, en detrimento de otros aspectos humanos. Nos estarรญamos olvidando de la inteligencia emocional o de la inteligencia social. En este sentido, se podrรญa afirmar que las mรกquinas no son inteligentes, si entendemos por inteligencia la capacidad de elegir entre diferentes opciones o situaciones, comprenderlas y realizar una sรญntesis para valorar cuรกl es la mรกs conveniente para tomar la decisiรณn adecuada. Los seres humanos tenemos creatividad, imaginaciรณn, empatรญa, pensamiento crรญtico, curiosidad y pasiรณn, elementos que no posee la IA.
La IA estรก diseรฑada para procesar informaciรณn a travรฉs de un conjunto de instrucciones lรณgicas y matemรกticas. Los sistemas con IA solo pueden operar segรบn su programaciรณn, pues son deterministas y no pueden tomar decisiones autรณnomas o creativas mรกs allรก de lo programado. Los seres humanos aprendemos a travรฉs de experiencias subjetivas y la exploraciรณn del mundo, pero la IA solo utiliza patrones matemรกticos y estadรญsticos. Ademรกs, las mรกquinas no tienen intenciones ni propรณsitos; solo pueden operar en funciรณn de las instrucciones que se les han dado. No tienen objetivos o deseos como los seres humanos.
El mal uso de la IA en la sociedad puede conducir a efectos indeseados. Recordemos el caso de Cambridge Analytics y Facebook, para influir en varias elecciones y referendos polรญticos. Ademรกs, no podemos obviar que algunos buscadores de Internet con IA se han convertido en una ยซmรกquina de la verdadยป[3]. Hemos de mencionar tambiรฉn la implantaciรณn, en la Repรบblica Popular China, de un sistema universal de puntos (el llamado ยซSistema de Crรฉdito Socialยป). Con este sistema de IA se evalรบa y controla el comportamiento de los ciudadanos y las empresas en varios aspectos de la vida cotidiana, como las finanzas, la educaciรณn, la seguridad, la salud y la moralidad. El sistema otorga puntos a los ciudadanos y empresas en funciรณn de su comportamiento, y estos puntos pueden ser utilizados para obtener beneficios, como el acceso a servicios pรบblicos, prรฉstamos, empleo y viajes.
Y sin embargo, pese a todos nuestros recelos, tenemos que admitir que su objetividad, capacidad de cรกlculo, de tener en cuenta innumerables factores en la toma de decisiones, etc., podrรญa ser de gran ayuda para la organizaciรณn de nuestra sociedad. Porque estas IA, si son mรกs inteligentes, mรกs racionales, con menos fallos, sin subjetivismos, sin prejuicios, podrรญan ser mรกs justas que nosotros e incluso gobernar o ayudar a gobernar nuestra sociedad. Y podrรญan conducir nuestros vehรญculos con menos accidentes que nosotros.
Ademรกs, por su capacidad de estar siempre dispuestas y poder comunicarse con nosotros, quizรกs podrรญan ser nuestros acompaรฑantes, o al menos el de los cientos de millones de ancianos que viven en soledad en este mundo tan deshumanizado. Esto ya estรก ocurriendo en Japรณn, por ejemplo. Curiosamente, la excesiva tecnificaciรณn de la sociedad nos ha convertido en seres mรกs aislados, mรกs solitarios y, sin embargo, el remedio podrรญa ser precisamente implementar mรกs tecnologรญa.
La conclusiรณn es que necesitamos una ยซIA amigable[4]ยป en la que se tengan en cuenta las consecuencias a largo plazo de las acciones y decisiones de la IA. El objetivo serรญa crear sistemas no solo eficientes, sino tambiรฉn seguros y beneficiosos para la sociedad. Para ello, deben estar diseรฑados con valores รฉticos y ser capaces de aprender y adaptarse a medida que se utilizan. Y ademรกs, es preciso instar a los Gobiernos a colaborar con la comunidad cientรญfica en una legislaciรณn que proteja los derechos individuales y establezca lรญmites penales sobre el mal uso de la IA. Esto requerirรก que las empresas se sienten con instituciones y Gobiernos, psicรณlogos, filรณsofos y organizaciones de derechos humanos para garantizar que se hayan considerado todos los aspectos de esta tecnologรญa.
[1] ยซSi cada instrumento pudiera realizar su propio trabajo, obedeciendo o anticipรกndose a la voluntad de otros, como las estatuas de Dรฉdalo (โฆ), si, de igual manera, el aparato tejiera y el plectro tocara la lira sin una mano que los guรญe, los jefes de los obreros no querrรญan siervos, ni los amos esclavosยป. Polรญtica, cap. II ยซDe la esclavitudยป.
[2] En libros con tรญtulos tan explรญcitos como Armas de destrucciรณn matemรกtica. Cรณmo el Big Data aumenta la desigualdad y amenaza la democracia, de Cathy OโNeil, Algoritmos de opresiรณn. Cรณmo los motores de bรบsqueda refuerzan el racismo, de Safiya Umoja Noble, o Datos vs democracia. Cรณmo los algoritmos del Big Data modelan nuestras opiniones y alteran el curso de la historia, de Kris Shaffer.
[3] Otros libros interesantes son Google y el mito del conocimiento universal, de Jean-Noรซl Jeanneney, o Googleados: el fin del mundo tal como lo conocรญamos, de Ken Auletta.
[4] Utilizamos el tรฉrmino acuรฑado por Eliezer Yudkowsky. Podemos leerlo en https://www.kurzweilai.net/what-is-friendly-ai.
