¿Es digno delegar en una máquina la capacidad de matar?

Se habla de los avances de esta tecnología, de cómo nos afecta en el día a día y de cómo la tenemos presente sin apenas darnos cuenta, pero ¿qué pasa con las cuestiones éticas derivadas de su aplicación?

Precisamente, la relación entre inteligencia artificial y ética y moralidad es uno de los temas más debatidos en los foros de inteligencia artificial. Precisamente, la revista Muy Interesante y Huawei reunió a los principales expertos del sector para debatir sobre el presente y el futuro de esta tecnología.

Inteligencia Artificial, ¿cuestión de ingeniería o humanística?

Marcelo Soria, responsable de Estrategia de BBVA Data & Analytics, defiende que, a la vez que la IA se vaya acercando a la singularidad, tiene que dejar de ser una ciencia de la ingeniería para pasar a ser una ciencia humanista. “Según tengamos máquinas que adquieran un comportamiento, tenemos que enseñarles unos valores que no están necesariamente dentro de la matemáticas o las ingenierías y que tienen más que ver con el humanismo. Tenemos que entendernos con la IA” afirma.

En la misma línea, Nuria Oliver, doctora por el MIT y directora de Investigación en Ciencias de Datos de Vodafone, destaca el impacto transversal de la inteligencia artificial, que crea la necesidad de trabajar con equipos multidisciplinares, donde no solamente estén implicados expertos en informática y en IA, sino también expertos en ética, psicología, antropología, economía o derecho. Además, también defiende la importancia de educar a la sociedad en materia de IA, ya que es una tecnología en unos años estará presente en todos los ámbitos de nuestra vida.

El peligro de los robots asesinos

Con el desarrollo de la inteligencia artificial, la existencia de robots asesinos está cada vez más cerca, hasta tal punto que ya es un tema de interés para la ONU. En este sentido, Ramón López de Mántaras, director del Instituto de Inteligencia Artificial del Consejo Superior de Investigaciones Científicas (CSIC), se muestra preocupado por las armas autónomas ya que “hay principios, como el de descernimiento o de proporcionalidad, que incluso para el ser humano son complicados, que no se pueden meter en una máquina y dejar que esta tome decisiones. Y aunque eso fuera posible, siempre quedaría la pregunta: ¿es digno delegar en una máquina la capacidad de matar?”.

Para Jesús Cardeñosa, doctor en Computación e IA por la UPM, “las máquinas no hacen nada que no se les diga que hagan, y por ello los aspectos éticos son fundamentales”, por lo que defiende la idea de que la IA no es ni buena ni mala, sino que habría que ver “las intenciones de quien ideó un sistema para hacer un robot asesino”.

¿Puede la Inteligencia Artificial resolver el dilema del tranvía?

El clásico dilema ético del tranvía se ve acualizado en la era de la inteligencia artificial, sobre todo en los aspectos relacionados con el coche autónomo. José Manuel Nieves, periodista especializado en ciencias y nuevas tecnologías del diario ABC, no cree que la IA pueda resolver fácilmente este supuesto filosófico. Un estudio reciente en 40 países mostró que las respuestas de los sujetos ante el dilema variaban dependiendo de su localización geográfica. Ante esta situación, pregunta “¿cómo se programa una máquina para que actúe de una manera si los humanos cambiamos según el área geográfica?”

Nuria Oliver subraya que ni siquiera los humanos hemos llegado a resolver este dilema, y además, “lo que digamos en frío no tiene validez porque cuando estamos en la situación, no tomaremos una decisión racional y actuaremos de forma instintiva”. Para Oliver, va a ser muy difícil programar según qué cuestiones. “Yo creo que nadie sabe la respuesta. A veces los humanos tenemos dilemas éticos que no sabemos resolver, y suele haber una divergencia entre lo que pensaríamos que haríamos y lo que hacemos en realidad” afirma.