1. Nuevos artefactos: La máquina sapiens

El advenimiento de la investigación digital, donde todo se transforma en datos numéricos, conduce a la capacidad de estudiar el mundo según nuevos paradigmas gnoseológicos: lo que cuenta es sólo la correlación entre dos cantidades de datos y ya no es una teoría coherente que que explique esta correlación. Hoy en día la correlación se utiliza para predecir con suficiente exactitud, aunque no tener ninguna teoría científica que lo apoye, el riesgo de impacto de los asteroides incluso desconocidos en varios lugares de la tierra, los sitios institucionales objeto de ataques terroristas, el voto de los ciudadanos individuales en las elecciones presidenciales de Estados Unidos, la tendencia del mercado bursátil en el corto plazo. 

Lo que aparece como resultado de este Nueva revolución es el dominio de la información, un laberinto conceptual cuya definición más extendida se basa en la categoría igualmente problemática de Datos. Esta interpretación de la información vinculada al concepto de datos condujo al desarrollo de la denominada Definición general de la información (DGI) expresado en términos de datos + significado. DGI es ahora un estándar operacional, particularmente en los campos donde los datos y la información se tratan como entidades cosificadas [0]. 

La evolución tecnológica de la información y el mundo, incluyendo cómo una serie de datos se materializan en Inteligencias artificiales (AI) y robots: somos capaces de construir máquinas que puedan tomar decisiones autónomas y coexistir con el hombre. Piense en las máquinas de conducción autónoma que Uber, el conocido servicio de transporte privado de coches, ya utiliza en algunas ciudades como Pittsburgh, o a los sistemas de radio cirugía como el CyberKnife o los robots destinados a trabajar junto al hombre en los procesos de producción en la fábrica. La IA, estas nuevas tecnologías, son omnipresentes. Están extendiéndose a todas las áreas de nuestra existencia. Tanto en los sistemas de producción, encarnados en robots, como en los sistemas de gestión que sustituyen a los servidores que los analistas. Pero incluso en la vida cotidiana los sistemas son cada vez más omnipresentes. Los smartphones de nueva generación se venden con un asistente con inteligencia artificial, Cortana, Siri O Google Hello – por citar sólo los principales – que transforma el teléfono de un Hub de servicios y aplicaciones a un socio real que interactúa de manera cognitiva con el usuario. Se están desarrollando sistemas de inteligencia artificial, bots, que estarán disponibles como socios virtuales para ser interrogados por voz o en Chat que son capaces de proporcionar servicios y beneficios que antes eran exclusivos de profesiones particulares: abogados, médicos y psicólogos son cada vez más eficientemente reemplazables por bots equipados con inteligencia artificial. 

El mundo del trabajo hoy conoce una nueva frontera: interacciones y convivencia entre hombres e inteligencias artificiales. Antes de profundizar en el significado de esta transformación debemos considerar una implícito cultural que amenaza con desviar nuestra comprensión del tema. En el desarrollo de las inteligencias artificiales (AI) la difusión de los éxitos alcanzados por estas máquinas siempre ha sido presentada de acuerdo a un modelo competitivo en comparación con el hombre. Para hacer un ejemplo, IBM presentó Deep Blue como la inteligencia artificial que en 1996 logró derrotar al reinante campeón del mundo en ajedrez, Garry Kasparov, y siempre, IBM en 2011 se dieron cuenta de que Watson derrotó a los campeones de un famoso juego de televisión en el Cultura general ¡Peligro!.  Estas apariciones en medios podrían hacernos pensar que estos son sistemas que compiten con el hombre y que entre Homo sapiens y esta nueva máquina sapiens/máquina autónoma ha establecido una rivalidad de naturaleza evolutiva que verá un solo ganador y condenará a los vencidos. extinción inexorable. En realidad, estas máquinas nunca se han construido para competir con el hombre, sino para crear una nueva simbiosis entre el hombre y sus artefactos: (homo + machina) sapiens. La IA no es la amenaza de la extinción humana, incluso si la tecnología puede ser peligrosa para nuestra supervivencia como especie: el hombre ya se ha arriesgado a extinguirse porque es golpeado por un automóvil tan estúpido como la bomba atómica. Sin embargo, hay desafíos extremadamente delicados en la sociedad contemporánea donde la variable más importante no es la inteligencia sino el limitado tiempo disponible para decidir y las máquinas cognitivas encuentran un gran interés aplicativo aquí. 

Este nivel abre toda una serie de cuestiones éticas sobre cómo validar el conocimiento de la máquina a la luz de la velocidad de la respuesta que intenta implementar y obtener. Sin embargo, el mayor peligro no proviene de la IA en sí misma, sino de no conocer estas tecnologías y de dejar decidir sobre su uso a una clase dominante absolutamente no preparada para manejar el tema. 

Si el horizonte de la existencia de la gente en un futuro próximo – en realidad ya de nuestro presente – es el de una cooperación entre inteligencia humana e inteligencia artificial y entre agentes humanos y agentes robóticos autónomos se hace urgente tratar de entender de qué manera esta realidad mixta, formada por agentes Los agentes autónomos humanos y robóticos autónomos, pueden coexistir.

2. Primum no nocere

El primer punto y el más urgente que las inteligencias artificiales ponen en el orden del día de la innovación laboral, es adaptar nuestras estructuras sociales a esta nueva sociedad formada por agentes autónomos mixtos. 

Un primer desafío es de naturaleza filosófica y antropológica. Estas fronteras de innovación, la realización de estas máquinas sapiens, por usar un término muy evocador, cuestionan en profundidad la especificidad del Homo sapiens y, en particular, sobre cuál es el componente humano específico y la calidad del trabajo en comparación con el mecánico: Las revoluciones industriales han demostrado que no es energía, no es velocidad, y ahora que la cognición y la adaptabilidad a la situación no son específicas solo para los seres humanos. 

La búsqueda de respuestas sobre este tema es muy urgente e importante para no establecer una decadencia del hombre en los horizontes de lo Posthumano. Los miembros de esta corriente de pensamiento abogan por la idea de un hombre en crisis, incapaz de saber manejar las máquinas que él mismo creó. El hombre estaría obligado a confinarse en un pasado hecho de residuos arqueológicos[1]. Por lo tanto, el Posthumano se configura alrededor de la idea central de una humanidad derrotada por su propio progreso[2]. 

Un segundo tema, e igualmente urgente, es definir cómo y de qué manera podemos garantizar la convivencia entre el hombre y la IA, entre el hombre y el robot. Para responder a esta pregunta, procederemos de la siguiente manera. Primero, trataremos de formular una directiva fundamental que debe ser garantizada por los AI y los robots, y luego trataremos de definir qué deben aprender estos sistemas cognitivos autónomos para coexistir y trabajar en cooperación con el hombre. 

La primera y fundamental directiva a implementar puede estar contenida en el Adagio Latino Primum no nocere. La realización de tecnologías controladas por AI Systems trae consigo una serie de problemas relacionados con la gestión de la autonomía de toma de decisiones de la que disfrutan estos equipos. La capacidad del Robot de cambiar su comportamiento de acuerdo con las condiciones en las que operan, por analogía con el ser humano, se define como Autonomía. Para indicar todas las complejidades derivadas de este tipo de libertad de toma de decisiones de estas máquinas se introdujo el término Agente moral artificial (AMA): hablando de AMA se indica el sector que estudia cómo definir los criterios informáticos para crear una especie de Moralidad artificial en los sistemas lo que lleva a algunos eruditos a acuñar la expresión Máquinas Morales para estos sistemas[3]. Cuando se utiliza el término Autonomía vinculado al mundo de la robótica se pretende comprender el funcionamiento de los sistemas de Ia cuya programación les hace capaces de adaptar su comportamiento de acuerdo con las circunstancias en las que van a operar[4]. Un ejemplo clásico de la aplicación de esta directiva fundamental, denominada Situación de los dos carros, fue formulado por Philippa Foot en 1967 mientras experimentaba con los primeros sistemas de conducción automática de transporte de pasajeros en los aeropuertos. En el caso presentado por Foot un vehículo se acerca a una intersección y se da cuenta de que otro vehículo, con cinco pasajeros, en la dirección opuesta está en trayectoria de colisión. El primer vehículo puede continuar en su trayectoria y golpear el vehículo que procede a matar a los cinco pasajeros a bordo o desviarse y golpear a un peón matándole. El pie se preguntaba: si estuviéramos conduciendo el vehículo ¿qué íbamos a hacer? ¿Y qué debe hacer un sistema robótico? Llegando a la conclusión de que la máquina autónoma debe programarse para evitar absolutamente herir o matar al ser humano y que, si en situaciones extremas, no era posible evitar dañar al hombre tendría que elegir el mal menor[5]. 

Sin embargo, para incluir toda la cuestión de los agentes Morales autónomos, el uso de robots cognitivos en un ambiente mixto de trabajo humano-robótico no puede ser agotado en esta directiva primaria. Al explotar un lenguaje evocador podríamos decir que las máquinas SapienTI/autónomo para coexistir con los trabajadores humanos, deben Aprender al menos cuatro cosas. Estos cuatro elementos pueden entenderse como una declinación operativa de la dignidad inherente al trabajador humano. Sólo si las máquinas interactúan con el hombre de acuerdo con estas instrucciones, entonces no sólo no dañarán a la persona, sino que saben cómo proteger su dignidad e inventiva, sin la morosidad de su valor intrínseco. 

1. Intuición

Cuando dos seres humanos cooperan normalmente, el uno logra anticipar y complacer las intenciones del otro porque puede adivinar lo que está haciendo o lo que quiere hacer. Piense en la situación en la que vemos a una persona caminando con sus brazos llenos de paquetes. Instintivamente entendemos que la persona está transportando esas parcelas y la ayudamos haciendo su trabajo más fácil o llevando por ella parte de la carga que agobia sus brazos. Esta capacidad humana está en la base de la gran ductilidad que caracteriza a nuestra especie y que nos ha permitido organizarnos desde los primeros tiempos, logrando cooperar en la caza, en la agricultura y luego en el trabajo. En un ambiente mixto hombre-robot, la IA debe poder Adivinar lo que los hombres quieren hacer y adaptarse a sus intenciones cooperando. Sólo en un entorno de trabajo donde las máquinas entiendan al hombre y se deleiten con su acto podremos ver la ingenuidad humana y la ductilidad respetada. La máquina debe ser adaptada al hombre y su singularidad y no viceversa. 

1. Inteligibilidad

Los robots como máquinas operativas operan según algoritmos de optimización. El software optimiza el uso energético de sus servomotores, las trayectorias cineméricas y las velocidades de funcionamiento. Si un robot tiene que tomar un recipiente cilíndrico de una hilera de recipientes, su brazo mecánico se moverá al recipiente elegido de acuerdo con una trayectoria de energía mínima y consumo temporal. Por otro lado, un hombre, si tiene que tomar el mismo frasco, se moverá hacia eso de manera que los que lo rodean entiendan lo que está tratando de hacer. El hombre puede, al ver a otro hombre que realiza una acción, comprender lo que está a punto de hacer al no optimizar la acción de los demás, sino su inteligibilidad. La forma de hacer las acciones hace que el acto sea inteligible y predecible. Si queremos garantizar un entorno de trabajo mixto en el que el hombre pueda coexistir con la máquina, la manera de realizar las acciones de la máquina debe ser inteligible. Debemos asegurarnos de que la persona que comparte el espacio de trabajo con la máquina siempre pueda entender lo que la máquina va a hacer. Esta característica es necesaria, entre otras cosas, para permitir que el hombre coexista en seguridad con la máquina sin exponerse a situaciones dañinas. No es la optimización de la acción de la máquina el objetivo más importante que debe caracterizar sus algoritmos, sino el respeto del hombre. 

1. Adaptabilidad

Un robot equipado con IA se adapta al entorno y las circunstancias para realizar acciones autónomas. Sin embargo, no se trata de diseñar e implementar algoritmos de inteligencia artificial que solo puedan adaptarse a las condiciones impredecibles del entorno, lo que le da a la máquina una conciencia de la realidad que lo rodea. En una situación de cooperación y trabajo mixto entre el hombre y la máquina, el robot también debe adaptarse a la personalidad humana con la que coopera. Probemos un ejemplo para ilustrar esta característica. Supongamos que tienes un coche autónomo. La máquina tendrá que adaptarse a las condiciones del tráfico: en condiciones de tráfico intenso, si la máquina no tiene algoritmos adaptativos eficientes, se arriesga a permanecer estable porque los otros vehículos impulsados ​​por humanos siempre lo pasarán adelante tratando de evitar el atasco. O si no fuera lo suficientemente adaptable, correría el riesgo de causar accidentes que no entiendan la intención sigilosa de cambiar el carril del conductor que se encuentra delante de ellos. Sin embargo, hay una adaptación más y más importante que el automóvil debe saber hacer: la sensibilidad de sus pasajeros. Algunos podrían encontrar la lentitud del automóvil al cambiar de carril enloquecedor o, por el contrario, podrían encontrar su estilo de conducción demasiado agresivo y vivir todo el viaje con la angustia insostenible de que un accidente es inminente. La máquina debe adaptarse a la personalidad con la que interactúa. El hombre no solo es un ser racional sino también un ser emocional y la acción de la máquina debe poder evaluar y respetar esta característica única y peculiar de su compañero de trabajo. La dignidad de la persona también se expresa por su singularidad. Saber valorar y no mortificar esta singularidad de la naturaleza racional-emocional es una característica clave para una convivencia que no es un detrimento de la parte humana. 

1. Adecuación de los objetivos

Un robot está gobernado por algoritmos que determinan sus políticas. Piense en uno de esos robots domésticos que se venden en tiendas de electrodomésticos que limpian el piso de manera autónoma recogiendo el polvo. Sus algoritmos están programados para esto, pero ¿el robot está programado para acumular polvo o recoger la mayor cantidad de polvo posible? Si en un entorno de solo máquina el objetivo absoluto es una política adecuada en un entorno mixto de trabajo hombre-robot, este paradigma no parece ser completamente válido. Si el robot quiere interactuar con la persona de una manera que sea conveniente y respetuosa con su dignidad, debe poder ajustar sus objetivos al mirar a la persona y tratar de entender cuál es el objetivo adecuado en esa situación. 

Piense en una situación en la que un trabajador y un robot cooperan en la realización de un artefacto. El robot no puede tener como única política el carácter absoluto de su objetivo como si fuera lo más importante y absoluto, sino que debe saber cómo adaptar su acción de acuerdo con la acción y el objetivo con el que la persona coopera. En otros términos, se trata de adquirir, perdonamos el término, una especie de humildad artificial que, volviendo al ejemplo del robot aspirador, le permite a la máquina entender si debiera aspirar todo el polvo posible o en este momento aspirar solo un poco. De polvo y luego vuelva a realizar esta función más tarde porque han surgido otras prioridades en las personas que están en la sala en ese momento. Se trata de establecer que la prioridad operacional no está en el algoritmo, sino en la persona que es el lugar y el asiento de la dignidad. En un entorno mixto, es la persona y su valor único lo que establece y jerarquiza las prioridades: el robot coopera con el hombre y no con el hombre que asiste a la máquina. 

Si estas cuatro direcciones pueden ser cuatro dimensiones de protección de la dignidad de la persona en la nueva relación entre el hombre y la máquina autónoma, es necesario garantizarlos de una manera cierta y segura. Por lo tanto, debemos desarrollar algoritmos de verificación independientes que puedan cuantificar y certificar de alguna manera esta capacidad de intuición, inteligibilidad, adaptabilidad y adecuación de los objetivos del robot. Estos algoritmos de evaluación deben ser independientes y confiarse a organismos de certificación de terceros que son garantes de esto. Necesitamos implementar por parte del gobierno un marco operativo que, al tomar esta dimensión de valores, la transforme en estructuras de estandarización, certificación y control que protejan a la persona y su valor en estos entornos mixtos hombre-robot. Los estándares no son suficientes, pero necesitamos algoritmos que puedan evaluar inteligentemente la idoneidad de las inteligencias artificiales destinadas a coexistir y cooperar con el trabajador humano. Solo de esta forma no podríamos estar sujetos a la innovación tecnológica, sino guiarla y gestionarla desde la perspectiva del auténtico desarrollo humano incluso en la era de los robots y las inteligencias artificiales. 

[0] No tenemos forma de abordar este problema. Nos referimos al texto de L. Floridi (L. Floridi, La revolución de la información, código, Torino 2012). 
[1] Cf. P. Benanti, El cyborg. Cuerpo y La corporeidad en la época del post-humano, Cittadella, Asís 2012.[2] El tema sin embargo fascinante no se puede abordar aquí, nos referimos a F. Occhetta – P. Benanti, “La política enfrentada A los desafíos del post-humano La civilización católica 3954, I (2015), 572-584.[3] CF. W. Wallach-C. Allen, Máquinas Morales: enseñando a los robots a la derecha del mal, Oxford University Press, Nueva York 2008, 55-79. 
[4] Cf. Y. Yudkowsky, “Niveles de organización en inteligencia general”, Inteligencia general artificial (tecnologías cognitivas), (A Cuidado De GoertzelB. Pennachin, C.), Springer, Berlín 2007, 389-498.[5] Cf. W. Wallach-C. Allen, Máquinas Morales: enseñando a los robots a la derecha del mal, Oxford University Press, Nueva York 2008, 13 y R. Arkin, Gobernar el comportamiento letal en robots autónomos, Chapman & Hall, boca raton 2009, 37-47

Padre Paolo Benanti

Profesor de la Pontificia Universidad Gregoriana de Roma (PUGR), especialista en robótica, ética digital y sus implicaciones para los valores humanos. Miembro de la Fuerza de Tareas sobre Inteligencia Artificial de Agenzia per l’Italia Digital and dalla Presidenza del Consiglio dei Ministri (2017-presente). Profesor, Pontificio Collegio Leoniano, Anagni (FR) (2009-presente). Profesor asistente, Istituto Teologico di Assisi, Assisi (PG) (2009-presente). Profesor asistente de Teología Moral, PUGR (2008-2011). Doctorado en Teología Moral (STD) PGUR, (2009-2012). Pontificia Università Gregoriana, Roma, Italia – Licenciatura en Teología Moral (STL) PUGR, (2008). Bachillerato en Sacra Teología (STB) Pontificia Università Lateranense (ITA), Assisi (PG), Italia, 2006. Ingeniería Mecánica (Graduado), Universtità degli Studi di Roma La Sapienza, Roma, Italia (1999).