Cuatro peligros latentes

Por qué a Geoffrey Hinton, “el padrino de la IA”, le preocupa el futuro de esta tecnología

  • Home
  • Inteligencia Artificial

Conocido como el padrino de la inteligencia artificial, Geoffrey Hinton ahora está preocupado por la tecnología que ayudó a crear. Con una licenciatura en Psicología Experimental y un doctorado en Inteligencia Artificial, ha decidido denunciar a la IA y a sus potenciales malos usos. A continuación, la revista financiera Forbes presenta algunas de esas preocupaciones.

Publicado el 31 Ago 2023

Si bien su utilización es cada vez más popular, su mayor ideólogo renunció a Google para militar en contra de lo que inventó. Y tiene cuatro buenos motivos.

Los problemas que puede traer la IA

El uso bélico de la IA

Una primera complicación yace en su uso bélico. A medida que la IA avanza, se volverá cada vez más inteligente, superando probablemente al cerebro humano. Como aplicación militar, existen varias preocupaciones. Aunque la IA permitirá tomar decisiones más inteligentes y reducirá el número de bajas en la guerra, en las manos equivocadas creará un campo de juego muy desigual entre adversarios. Por lo tanto, la nación con la IA más avanzada dominará.

La desinformación

Otro inconveniente es que la desinformación prosperará con la IA: será cada vez más difícil saber qué es verdad y qué es falso. En consecuencia, las naciones con la IA más avanzada podrían utilizar la tecnología para engañar a sus ciudadanos o a los de un país adversario. Los políticos también podrían utilizar esta tecnología para ganar elecciones. Una nación podría usar la IA para influir en una elección en otra. El resultado de esto es un nivel creciente de desconfianza, lo que promovería una mayor agitación civil. La IA en manos equivocadas podría llevar a un país al borde del colapso.

Full interview: "Godfather of artificial intelligence" talks impact and potential of AI

La IA podría socavar el control humano

La decepción con la IA en el futuro podría extenderse ampliamente a medida que empresas y políticos la utilicen para alcanzar sus objetivos. A medida que la IA se vuelve más avanzada, y si lograr el objetivo se vuelve más importante que la verdad, la IA podría socavar el control humano. Un ejemplo es el caso de Volkswagen, que en 2017 programó sus motores para reducir las emisiones solo cuando estaban siendo monitoreados. La empresa se declaró culpable y acordó pagar un acuerdo multimillonario a principios de 2017.

Pérdida de empleo

También existe el riesgo de la pérdida de empleos. A lo largo de los años, ha habido numerosas tecnologías que han cambiado materialmente una industria. Dos ejemplos incluyen la industria de los caballos y carruajes, y la fabricación de automóviles. En el caso de la primera, la tecnología ayudó a crear autos, que reemplazaron los carruajes tirados por caballos como el principal medio de transporte y dejando a muchos trabajadores desempleados.

Durante la década de 1970, la tecnología desplazó a muchos trabajadores de fábricas a medida que la automatización barrió la industria. Es fácil imaginar un día en el que una fábrica de 5000 trabajadores sea reemplazada por 50, algunos operando la sala de control mientras otros mantienen las máquinas. Para maximizar las ganancias, es probable que las empresas reduzcan su fuerza laboral. Además, las empresas con la IA más avanzada podrían dominar su industria.

Riesgos dictatoriales

A su vez, existen riesgos dictatoriales. Hoy en día hay muchos que buscan el poder e influencia sobre todo lo demás. En 2017, el presidente ruso Vladimir Putin, al hablar sobre la IA, dijo: “Quienquiera que se convierta en líder en esta esfera, se convertirá en el gobernante del mundo”. Poco después, Elon Musk tuiteó: “la competencia por la superioridad en la IA a nivel nacional es la causa más probable de la Tercera Guerra Mundial”.

A medida que la IA avanza, es poco probable que todos los líderes mundiales acuerden jugar limpio. Por lo tanto, una tecnología con muchos beneficios maravillosos podría ser nuestra perdición. Y lo será si no podemos instalar salvaguardias adecuadas para proteger a la humanidad.

Prohibida su reproducción total o parcial.

¿Qué te ha parecido este artículo?

¡Su opinión es importante para nosotros!

I
Redacción InnovaciónDigital360
Temas principales

Personajes

G
Geoffrey Hinton

Nota 1 de 5