Emprendedor de Android ve brrr.
Isaac Lawrence/AFP vía Getty Images
Ocultar título
Cambiar título
Isaac Lawrence/AFP vía Getty Images
Emprendedor de Android ve brrr.
Isaac Lawrence/AFP vía Getty Images
Los expertos advierten que la inteligencia artificial está evolucionando mucho más rápido de lo que los reguladores pueden seguir. ¿Hay alguna posibilidad de tomar ese relevo?
¿quien es? Paul Scharr es autor y vicepresidente del Center for a New American Security. Su trabajo se centra en la inteligencia artificial y cómo se cruza con la Fuerza.
- El trabajo de Scharre lo llevó a escribir un libro sobre el tema: Cuatro campos de batalla: fuerza en la era de la inteligencia artificial.
- El martes, el Congreso convocó una audiencia dedicada a la conversación sobre cómo Washington debería supervisar estas nuevas fronteras de la tecnología.
- La tecnología se encuentra en un punto de inflexión crítico en la historia: a medida que los modelos se vuelven más complejos, los expertos en tecnología continúan insistiendo en que la inteligencia artificial sin regulación es un peligro para la sociedad.
¿Cuál es el problema? Todos los involucrados en la conversación parecían querer controlar la tecnología. La pregunta es cómo.
- El CEO de OpenAI, Sam Altman, testificó en la audiencia. Altman supervisa la empresa responsable de crear ChatGPT, la herramienta de inteligencia artificial generativa que ya está transformando la forma en que muchos de nosotros llevamos a cabo nuestra vida diaria.
- En su testimonio preparado ante el Subcomité del Senado, Altman escribió: “OpenAI cree que la regulación de la IA es esencial, y estamos ansiosos por ayudar a los legisladores a determinar cómo facilitar la regulación que equilibre el incentivo de la seguridad y garantice que las personas puedan acceder a los beneficios de la tecnología. “
- Durante la audiencia del martes, diferentes miembros de la legislatura propusieron diferentes salvaguardas, como requerir autorización o incluso la creación de una nueva agencia federal.
- Esto viene en respuesta a las críticas, incluso de Scharre, de que el Congreso ha sido demasiado lento para crear regulaciones para las redes sociales.
¿Quieres más sobre tecnología? escuchar Considera esto episodio en ¿Cómo afecta el uso de las redes sociales a la salud mental de los adolescentes?.
Paul Schar dice que es esencial garantizar la integridad de los sistemas de IA que se están construyendo.
Wayne McNamee/Getty Images
Ocultar título
Cambiar título
Wayne McNamee/Getty Images
¿Qué dice ella? Schar habló con Ari Shapiro de NPR sobre el papel que la regulación legislativa puede desempeñar en el desarrollo de la IA.
Sobre si el Congreso puede desempeñar un papel importante en la regulación de la IA:
Ciertamente hay un papel importante para el Congreso, pero hay una gran desconexión entre el ritmo de la tecnología, especialmente en el campo de la inteligencia artificial, y el ritmo de la elaboración de leyes.
Así que creo que hay un incentivo real para que el Congreso actúe más rápido, y eso es lo que estamos viendo. Creo que lo que los miembros del Congreso están tratando de hacer aquí con estas audiencias es averiguar qué está pasando con la IA y luego qué papel debería desempeñar el gobierno en la regulación de eso.
¿Qué papel debe jugar el gobierno?
Ciertamente no hay consenso. Y creo que parte de eso es que puede significar muchas cosas diferentes. Podría ser reconocimiento facial, o podría usarse en finanzas o medicina. Habrá mucha regulación de la industria.
Sobre si el Congreso tomará medidas significativas al respecto:
La respuesta pesimista es que probablemente no veremos mucho.
Esta ha sido la historia hasta ahora con las redes sociales, por ejemplo. Pero creo, ya sabes, donde realmente hay valor aquí sería si pudiéramos obtener un par de tipos específicos de regulación estricta. Se ha hablado de un sistema de licencias para entrenar estos modelos tan potentes, lo que probablemente tenga sentido en este punto, dadas algunas de sus características. Y luego cosas como los requisitos de nombres de medios generados por IA. California aprobó una ley como esta llamada Ley Blade Runner. Me gusta este término que básicamente dice que si estás hablando con un bot, tiene que revelar que es un bot. Esto es muy sensible.
Sobre los peligros de la IA no regulada:
Uno de los riesgos es que estamos viendo una proliferación de sistemas de IA de propósito general muy poderosos, que pueden hacer mucho bien y mucho mal.
Y vemos a algunos malos usándolos para cosas como ayudar a diseñar mejores armas químicas o biológicas o ataques cibernéticos. Y es realmente difícil defenderse si no hay firewalls y si cualquiera puede acceder a esto tan fácilmente como cualquiera puede acceder a Internet hoy en día. Entonces, pensar en cómo controlamos la propagación, cómo nos aseguramos de que los sistemas que se están construyendo sean seguros, es realmente esencial.
¿Y ahora qué?
Aprende más: