Los reguladores de EE. UU. advierten que ya tienen el poder de perseguir el sesgo en la IA

Cuatro agencias federales de EE. UU. emitieron una advertencia el martes de que ya tienen la autoridad para remediar los daños causados ​​por el sesgo de la IA y que planean usarla.

La advertencia se produce cuando el Congreso se enfrenta a cómo tomar medidas para proteger a los estadounidenses de los riesgos potenciales derivados de la inteligencia artificial. La urgencia detrás de este impulso ha crecido a medida que la tecnología avanza rápidamente con herramientas que son más accesibles para los consumidores, como el chatbot ChatGPT de OpenAI. A principios de este mes, el líder de la mayoría del Senado, Chuck Schumer, republicano por Nueva York, anunció que está trabajando en un marco amplio para la legislación de IA, lo que indica que es una prioridad importante en el Congreso.

Pero incluso cuando los legisladores intentan escribir reglas específicas para las nuevas tecnologías, los reguladores han confirmado que ya tienen las herramientas para perseguir a las empresas que hacen mal uso de la IA de diversas maneras.

En un anuncio conjunto de la Oficina de Protección Financiera del Consumidor, el Departamento de Justicia, la EEOC y la Comisión Federal de Comercio, los reguladores describen algunas de las formas en que las leyes existentes les permiten tomar medidas contra las empresas por su uso de inteligencia artificial.

Por ejemplo, la Oficina de Protección al Consumidor de Canadá está investigando las llamadas líneas rojas digitales, o discriminación en la vivienda que resulta del sesgo en los préstamos o algoritmos de tasación de viviendas, según Rohit Chopra, director de la agencia. El CFPB también planea proponer reglas para garantizar que los modelos de valoración de IA para propiedades residenciales tengan salvaguardas contra la discriminación.

“No hay excepción en las leyes de derechos civiles de nuestro país para las nuevas tecnologías y la inteligencia artificial que discriminan ilegalmente”, dijo Chopra a los periodistas durante una conferencia de prensa virtual el martes.

“Todas las agencias aquí hoy tienen poderes legales para combatir fácilmente el daño causado por la IA”, dijo Lina Khan, presidenta de la Comisión Federal de Comercio. “Las empresas deben ser conscientes de que los sistemas que promueven el fraude o perpetúan el sesgo ilegal podrían violar la ley de la FTC. No hay exención para la IA de las leyes en los libros”.

Khan agregó que la FTC está lista para responsabilizar a las empresas por sus afirmaciones sobre lo que puede hacer su tecnología de inteligencia artificial, y agregó que la aplicación de medidas contra el marketing engañoso ha sido durante mucho tiempo parte de la experiencia de la agencia.

Khan dijo que la FTC también está lista para tomar medidas contra las empresas que buscan ilegalmente bloquear nuevos participantes en los mercados de IA.

“El poderoso puñado de empresas de hoy controla las materias primas necesarias, no solo grandes almacenes de datos, sino también servicios en la nube y poder de cómputo, de los que dependen las nuevas empresas y otras empresas para desarrollar e implementar productos de IA”, dijo Khan. “Este control puede crear una oportunidad para que las empresas se involucren en métodos de competencia desleal”.

Christine Clark, Secretaria de Justicia Auxiliar de la División de Derechos Civiles del Departamento de Justicia, indicó un acuerdo previo con meta Debido a las acusaciones de que la empresa usó ilegalmente algoritmos que discriminaban según el género y la raza al mostrar anuncios de viviendas.

“La División de Derechos Civiles se compromete a utilizar las leyes federales de derechos civiles para responsabilizar a las empresas cuando utilizan la IA de formas que resultan discriminatorias”, dijo Clark.

Charlotte Burroughs, presidenta de la EEOC, señaló el uso de la IA en el reclutamiento y la contratación y dijo que puede conducir a decisiones sesgadas si se entrena con conjuntos de datos sesgados. Esta práctica puede parecer que selecciona a todos los candidatos que no son similares a los de la cohorte que la IA ha sido entrenada para seleccionar.

Sin embargo, los organizadores también reconocieron que hay espacio para que el Congreso actúe.

“Creo que es importante que el Congreso investigue esto”, dijo Burroughs. “De ninguna manera quiero que el hecho de que creo que tenemos herramientas muy poderosas para algunos de los problemas que vemos socave de alguna manera esas conversaciones importantes y la idea de que también debemos hacer más”.

“La inteligencia artificial plantea algunas de las amenazas modernas más grandes en lo que respecta a la discriminación hoy en día, y estos temas requieren una consideración y un escrutinio minuciosos por parte de los legisladores y otros”, dijo Clark, y agregó que, al mismo tiempo, las agencias tienen “un arsenal de derechos civiles esenciales”. leyes.” Hacer que los malos actores rindan cuentas.

“A medida que continuamos haciendo cumplir la ley por parte de la agencia, hemos acogido con beneplácito el trabajo que otros pueden estar haciendo para ver cómo podemos asegurarnos de seguir el ritmo de las crecientes amenazas que vemos hoy”, dijo Clark.

Suscríbete a CNBC en YouTube.

MIRAR: ¿Podrían los clones chinos de ChatGPT darle una ventaja sobre los EE. UU. en una carrera armamentista de IA?