El pionero de la inteligencia artificial Jeffrey Hinton advirtió sobre los mayores riesgos después de dejar Google

El pionero de la inteligencia artificial Jeffrey Hinton dejó Google después de más de una década trabajando para el gigante de las búsquedas de EE. UU., citando preocupaciones sobre el rápido desarrollo de la IA generativa.

Hinton, profesor a tiempo parcial en la Universidad de Toronto, considerado el padre de la inteligencia artificial moderna, dijo que se resignó a hablar abiertamente sobre los peligros de la IA.

Dile al científico británico de 75 años Los New York Times Que se arrepiente en parte del trabajo de su vida, advirtiendo sobre la desinformación inundando la esfera pública y la inteligencia artificial usurpando más funciones humanas de las que esperaba.

“Me consuelo con la excusa habitual: si no lo hubiera hecho yo, alguien más lo habría hecho”, dijo Hinton. “Fue difícil ver cómo se podía evitar que los malos actores los usaran para cosas malas”, agregó.

Sus comentarios siguen a una serie de lanzamientos innovadores de IA en los últimos seis meses, como ChatGPT impulsado por Microsoft OpenAI en noviembre del año pasado y el chatbot Bard de Google en marzo.

El ritmo acelerado de desarrollo y lanzamiento público ha causado una creciente preocupación entre algunos investigadores de IA y especialistas en ética tecnológica. En marzo, Elon Musk y más de 1000 investigadores y ejecutivos de tecnología pidieron una “pausa” de seis meses en el desarrollo de sistemas avanzados de inteligencia artificial para detener lo que llaman una carrera armamentista “peligrosa”.

Hinton dijo que le preocupaba que la carrera entre Google y Microsoft para lanzar productos basados ​​en IA impulsara el desarrollo de IA sin las barreras y reglas adecuadas.

Agregó: “No creo que deban aumentar esto más hasta que entiendan si pueden controlarlo”.

Hinton también ha expresado su preocupación de que la inteligencia artificial pueda superar a la inteligencia humana, que ahora cree que está llegando más rápido de lo que esperaba.

Hinton se unió a Google en 2013 después de vender su empresa de IA, que fundó junto con su alumno Ilya Sutskiver, cofundador de OpenAI, a Google por 44 millones de dólares. Esto se produjo como parte de una ola de científicos que la empresa ha contratado para especializarse en aprendizaje profundo.

En Google, ha seguido estando a la vanguardia del “aprendizaje profundo”, una tecnología que sustenta la mayoría de los avances recientes en el desarrollo de IA, incluida la IA generativa, y ha impulsado el campo hacia adelante.

Su salida de Google se produce en un momento turbulento para la empresa, que recientemente fusionó sus unidades de investigación de IA DeepMind y Google Brain en un esfuerzo por recuperar el terreno perdido en IA generativa frente a Microsoft y OpenAI.

“Jeff ha logrado avances fundamentales en inteligencia artificial y valoramos sus diez años de contribuciones en Google”, dijo Jeff Dean, científico jefe de Google. Dijo que la compañía sigue comprometida con un “enfoque responsable de la IA”, incluida la comprensión de los riesgos emergentes.