Ejecutivos de tecnología se reúnen con altos funcionarios de EE. UU. para una “discusión franca” sobre los riesgos de la inteligencia artificial

Los directores ejecutivos que lideran la carrera de inteligencia artificial que ha asombrado a la industria tecnológica, incluidos los directores ejecutivos de OpenAI, Google y Microsoft, se reunieron en la Casa Blanca el jueves para lo que un alto funcionario estadounidense describió como una “discusión franca” sobre sus responsabilidades para asegurarse de que Los sistemas son seguros.

La reunión, a la que asistió la vicepresidenta Kamala Harris y otros altos funcionarios, se produce cuando la administración de Joe Biden busca desarrollar una respuesta más coordinada a los rápidos desarrollos tecnológicos recientes. También llega días después de que el pionero de la inteligencia artificial Geoffrey Hinton emitiera una de las advertencias más destacadas sobre los riesgos a largo plazo de desarrollar máquinas que se están volviendo más inteligentes que los humanos.

“muchos de [the big tech companies] Hablaron sobre sus responsabilidades, y parte de lo que queremos hacer es asegurarnos de tener una conversación sobre cómo cumplen con esas promesas”, dijo el alto funcionario de la administración. Esta persona no especificó ninguna regulación u otras medidas que la administración Biden podría considerarse.

A los ejecutivos invitados a la reunión se les dijo que se enfocaría en los riesgos que surgen del desarrollo “actual y de corto plazo” de la tecnología. Pero al enfatizar su “responsabilidad principal de asegurarse de que sus sistemas sean confiables y seguros antes de que sean lanzados o implementados”, también ayudará a lidiar con “tecnologías potencialmente más poderosas en el futuro”, dijo el funcionario.

Después de la reunión, Harris dijo en un comunicado: “Como compartí hoy con los directores ejecutivos de las empresas a la vanguardia de la innovación estadounidense en inteligencia artificial, el sector privado tiene la responsabilidad moral, ética y legal de garantizar la seguridad de sus productos. todas las empresas deben cumplir con las leyes existentes para proteger al pueblo estadounidense”.

Biden también abandonó la reunión, según un informe del evento.

Antes de la reunión, la Casa Blanca dijo que siete de las compañías de IA más grandes acordaron abrir sus modelos hasta cierto grado de escrutinio público en la conferencia anual de piratas informáticos Def Con en agosto. Sin embargo, dijo que el nivel de apertura sería “consistente con los principios de divulgación responsable”, dejando poco claro hasta qué punto las empresas divulgarían. OpenAI se negó a revelar información técnica básica sobre su último modelo de lenguaje grande, GPT-4.

La Casa Blanca también dijo que la Oficina de Administración y Presupuesto publicará un borrador de pautas para comentarios públicos este verano que rigen el uso de inteligencia artificial por parte del gobierno federal.

Los líderes tecnológicos que asistieron a la reunión del jueves fueron el director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Microsoft, Satya Nadella, y Sundar Pichai, director ejecutivo de Google y Alphabet, junto con Dario Amodi, director ejecutivo de la startup de inteligencia artificial Anthropic. Entre los funcionarios de la administración en la reunión se encontraba el director del Consejo de Seguridad Nacional, Jake Sullivan. Lyle Brainard, Director del Consejo Económico Nacional; Gina Raimondo, Secretaria de Comercio, y Jeff Zients, Jefe de Gabinete de la Casa Blanca.

La administración de Biden ha anunciado una serie de iniciativas en torno a la IA en los últimos meses, incluida la aprobación de un proyecto de ley de derechos de IA y el lanzamiento de una revisión en abril de los nuevos estándares técnicos necesarios para garantizar que los sistemas de IA funcionen según lo previsto, en lugar de exponer a las personas a riesgos imprevistos. Riesgos.

Lina Khan, presidenta de la Comisión Federal de Comercio, emitió una de las advertencias más fuertes de la administración el jueves. Escribiendo en The New York Times, dijo que su agencia investigaría si las leyes existentes podrían usarse para abordar cosas como las estafas en línea y las violaciones de la privacidad causadas por la inteligencia artificial.