Geoffrey Hinton, pionero de la inteligencia artificial, dimite en Google para advertir de los «peligros» de esta tecnología

Nueva York (CNN) — Geoffrey Hinton, considerado el «padrino de la inteligencia artificial», confirmó este lunes que dejó su puesto en Google la semana pasada para alertar sobre los «peligros» de la tecnología que él mismo ayudó a desarrollar.

El trabajo pionero de Hinton sobre redes neuronales dio forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. Trabajó a tiempo parcial en Google durante una década en los esfuerzos de desarrollo de inteligencia artificial del gigante tecnológico, pero ahora le preocupa la tecnología y el papel que desempeñó en su desarrollo.

«Me consuelo con la excusa habitual: si no lo hubiera hecho yo, habría sido otra persona», dijo Hinton. al New York Times, quien fue el primero en informar su decisión.

En un tuit del lunes, Hinton dijo que renunció a Google para poder hablar libremente sobre los peligros de la inteligencia artificial (IA), en lugar de criticar específicamente a Google.

«Me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta a Google». dicho Hinton en un tuit. «Google ha actuado de manera muy responsable».

Jeff Dean, científico jefe de Google, dijo que Hinton «ha logrado avances fundamentales en IA» y expresó su agradecimiento por la «década de contribuciones de Hinton en Google».

“Seguimos comprometidos con un enfoque responsable de la IA”, dijo Dean en un comunicado proporcionado a CNN.

«Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras innovamos audazmente».

La decisión de Hinton de dejar la compañía y hablar sobre la tecnología llega en un momento en que un número creciente de legisladores, grupos de defensa y expertos en tecnología han hecho sonar las alarmas sobre el potencial de una nueva generación de chatbots potenciados. por la IA para difundir información errónea y desplazar puestos de trabajo.

La ola de atención acaparada por ChatGPT a fines del año pasado ayudó a renovar una carrera armamentista entre las empresas de tecnología para desarrollar e implementar herramientas de IA similares en sus productos. OpenAI, Microsoft y Google lideran esta tendencia, pero IBM, Amazon, Baidu y Tencent están trabajando en tecnologías similares.

En marzo, algunas de las principales figuras tecnológicas firmaron una carta pidiendo a los laboratorios de inteligencia artificial que dejen de entrenar los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad». La carta, publicado por el Future of Life Institute, una organización sin fines de lucro respaldado por Elon Musk, llegó solo dos semanas después de que OpenAI anunciara GPT-4, una versión aún más poderosa de la tecnología que impulsa ChatGPT. En las primeras pruebas y en una demostración de la empresa, GPT-4 se utilizó para escribir demandas, aprobar pruebas estandarizadas y crear un sitio web funcional a partir de un boceto dibujado a mano.

En la entrevista con Los New York Times, Hinton agregó a las preocupaciones sobre el potencial de la inteligencia artificial para acabar con los trabajos y crear un mundo en el que muchos «ya no podrán saber lo que es verdad». También señaló la asombrosa tasa de progreso, mucho más allá de lo que él y otros habían anticipado.

«Pocas personas creían en la idea de que estas cosas podrían volverse más inteligentes que las personas», dijo Hinton en la entrevista. «Pero la mayoría de la gente pensó que no era así. Y yo también. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso».

Incluso antes de separarse de Google, Hinton había hablado públicamente sobre el potencial de la IA para hacer tanto daño como bien.

«Creo que el rápido progreso de la IA va a transformar la sociedad en formas que no entendemos completamente y no todos los efectos van a ser buenos», dijo Hinton en un discurso de apertura de 2021 en el Instituto Indio de Tecnología en Bombay. Señaló que la IA impulsará la atención médica, pero también creará oportunidades para armas letales autónomas. «Esta perspectiva me parece mucho más inmediata y mucho más aterradora que la perspectiva de que los robots tomen el control, que creo que está muy lejos».

Hinton no es el primer empleado de Google en hacer sonar la alarma de la IA. En julio, la compañía despidió a un ingeniero que afirmó que un sistema de IA aún no lanzado se había vuelto consciente, alegando que había violado las políticas laborales y de seguridad de datos. Muchos miembros de la comunidad de IA rechazaron enérgicamente la afirmación del ingeniero.

— Samantha Murphy Kelly y Ramishah Maruf contribuyeron con este reportaje.