May 18, 2023

Cos Leos

Noticias Latinoamericanas y Actualidad Mundial Manténgase informado y lea las últimas noticias de The Cosleos.com, la fuente definitiva para el periodismo independiente de todos los rincones del mundo.

La respuesta correcta a la IA es más mundana que el temor existencial

8 min read

Este artículo es una versión en sitio del Folleto de Almuerzo Gratis de Martin Sandbo. Regístrese aquí para recibir nuestro boletín de noticias directamente en su bandeja de entrada todos los jueves

Cuando ChatGPT y otras instancias de software de inteligencia artificial se lanzaron a un público desprevenido hace unos meses, se produjo un frenesí de asombro. A su paso, una avalancha de ansiedad acerca de adónde llevarían a la sociedad humana los asombrosos avances en las capacidades del programa, incluso, sorprendentemente, de personas tan cercanas al evento.

El mes pasado, el inversionista en IA Ian Hogarth insistió en el fin de semana del Financial Times que “debemos desacelerar la carrera hacia una IA divina”. Unas semanas más tarde, Jeffrey Hinton, el hombre al que se hace referencia como el “padrino” de la IA, renunció a Google para poder expresar libremente sus preocupaciones, incluso en una entrevista con The New York Times. El profesor de inteligencia artificial y empresario Gary Marcus se preocupa por “lo que los malos actores pueden hacer con estas cosas”. Y justo hoy, el Financial Times entrevistó al pionero de la IA Yoshua Bengio, quien teme que la IA “desestabilizará la democracia”. Mientras tanto, un gran número de inversores y expertos en el campo de la inteligencia artificial han pedido que se “detenga” el desarrollo de la tecnología.

Llámame ingenuo, pero me encontré incapaz de permitirme mucha emoción. No es que dude que la IA cambiará la forma en que vivimos nuestras vidas y especialmente las estructuras de nuestras economías, por supuesto que lo hará. (Consulte esta lista de las muchas formas en que las personas ya han comenzado a usar IA). Pero me resulta difícil ver cómo los peores escenarios sobre los que nos advierten los expertos difieren cualitativamente de los grandes problemas que la humanidad ya ha creado que teníamos. para tratar de resolvernos a nosotros mismos.

Tome el ejemplo de Hogarth de un chatbot de IA que lleva a alguien al suicidio. En el siglo XVIII leyó el libro de Goethe el Las penas del joven Werther Se supone que tiene el mismo efecto. Cualquiera que sea la conclusión que debamos sacar, no es que la IA represente un peligro existencial.

O tomemos a Hinton, cuya “preocupación inmediata es que Internet se inundará con imágenes, videos y textos falsos, y la persona promedio ya no podrá decir qué es real”. No poder ver la verdad es un temor que todos los pensadores antes mencionados parecen compartir. Pero la mentira y la manipulación, especialmente en nuestros procesos democráticos, son problemas que los humanos habríamos sido totalmente capaces de crear sin la necesidad de la IA. Una mirada rápida a algunas de las opiniones adoptadas por una gran parte del público estadounidense, por ejemplo, que muestran (por decirlo suavemente) impiden el acceso a la verdad no es nada nuevo. Y, por supuesto, la capacidad de la IA generativa para crear deepfakes significa que tendremos que volvernos más críticos con lo que vemos y escuchamos; Y los políticos sin escrúpulos usarán el cargo de deepfakes para rechazar la divulgación dañina. Pero, de nuevo, en 2017, Donald Trump no necesitaba la existencia de la IA para poder rechazar las acusaciones de “noticias falsas” contra sus críticos.

Así que creo que la bocanada de terror existencial provocada por los recientes avances de la IA es una distracción. Deberíamos pensar en cambio en un nivel más ordinario. Marcus establece una buena analogía con los códigos y estándares de construcción para las instalaciones eléctricas, y este, en lugar de tratar de frenar los desarrollos tecnológicos en sí mismos, es el nivel en el que se deben llevar a cabo las discusiones sobre políticas.

Hay dos preguntas particularmente serias (porque son las más procesables) que los formuladores de políticas, en particular los económicos, deben abordar.

El primero es quién debe asumir la responsabilidad de las decisiones que toman los algoritmos de IA. Debería ser fácil aceptar el principio de rechazar las decisiones tomadas por la IA que no permitiríamos (o no querríamos) permitir si las tomara un tomador de decisiones humano. Tenemos una forma débil en esto, por supuesto: dejamos que las estructuras corporativas se salgan con la suya con acciones que no permitiríamos por parte de los individuos. Pero con AI en su infancia, tenemos la oportunidad de eliminar desde el principio la posible impunidad de personas reales basadas en la defensa de “AI lo hizo”. (Este argumento no es exclusivo de la inteligencia artificial, por cierto: deberíamos tratar los algoritmos informáticos no inteligentes de la misma manera).

Tal enfoque alienta los esfuerzos legislativos y regulatorios para no estancarse en la tecnología en sí, sino para centrarse en sus usos particulares y los daños que se derivan. En la mayoría de los casos, no importa mucho si el daño es causado por una decisión de la IA o por una decisión humana; Lo que importa es desalentar y castigar la decisión dañina. Daniel Dennett exagera cuando dice en The Atlantic que la capacidad de la IA para crear “personas digitales falsas corre el riesgo de destruir nuestra civilización”. Pero él tiene el buen punto de que si los directores ejecutivos de las empresas de tecnología que desarrollan IA pudieran enfrentar la cárcel por usar su tecnología para facilitar el fraude, rápidamente se asegurarían de que el software incluya firmas que faciliten la detección si nos estamos comunicando con una IA. .

La ley de IA que se está legislando en la Unión Europea parece estar adoptando el enfoque correcto: especificar usos específicos de IA que deben prohibirse, restringirse o regularse; hacer cumplir la transparencia sobre cuándo se usa la IA; garantizar que las reglas aplicadas en otros lugares también se apliquen a los usos de la IA, como los derechos de autor de las obras de arte en las que se puede capacitar a la IA; Y definiendo claramente dónde recae la responsabilidad, por ejemplo, en el desarrollador del algoritmo de IA o en sus usuarios.

El segundo gran problema al que deben prestar atención los formuladores de políticas es cuáles serán las consecuencias distributivas de las ganancias de productividad que la IA debería traer eventualmente. Mucho de eso dependerá de los derechos de propiedad intelectual, que en última instancia se trata de quién controla el acceso a la tecnología (y puede cobrar por ese acceso).

Dado que no sabemos cómo se utilizará la IA, es difícil saber cuánto se puede controlar el acceso y la monetización de usos valiosos. Entonces, es útil pensar en términos de dos opuestos. Por otro lado, existe un mundo de propiedad total, donde la IA más beneficiosa será la propiedad intelectual de las empresas que fabrican tecnologías de IA. Estos serían un puñado como máximo debido a los vastos recursos que se dedican a crear una IA utilizable. Un monopolio u oligopolio efectivo, podrían cobrar altas tarifas de licencia y cosechar la mayor parte de las ganancias de productividad que la IA podría lograr.

Por el contrario, existe el mundo del código abierto, donde la tecnología de IA se puede ejecutar con tan poca inversión que cualquier intento de restringir el acceso dará como resultado la creación de un competidor de código abierto gratuito. Si el autor del memorando filtrado de Google “no hacemos fosos” es correcto, lo que estamos viendo es el mundo del código abierto. Rebecca Gorman de Aligned AI argumenta lo mismo en una carta al Financial Times. En este mundo, las ganancias de productividad de la IA serán capturadas por cualquier persona con la inteligencia o el impulso para implementarlas: las empresas de tecnología verán sus productos como productos básicos y con precios a través de la competencia.

Creo que ahora es imposible saber a qué extremos estaremos más cerca, por la sencilla razón de que es imposible imaginar cómo se utilizará la inteligencia artificial y, por lo tanto, qué tecnología se necesitará. Pero me gustaría hacer dos observaciones.

La primera es fijarse en Internet: sus protocolos están diseñados para ser accesibles a todo el mundo, y el lenguaje, por supuesto, es de código abierto. Sin embargo, eso no ha impedido que las grandes tecnológicas intenten, ya menudo con éxito, crear “jardines amurallados” con sus productos, obteniendo como resultado una renta económica. Por lo tanto, deberíamos equivocarnos al preocuparnos de que la revolución de la IA dé paso a la concentración del poder económico y las recompensas.

La segunda es que lo que terminamos es, en parte, el resultado de las decisiones políticas que tomamos hoy. Para impulsar un mundo de código abierto, los gobiernos pueden promulgar leyes para aumentar la transparencia y el acceso a la tecnología desarrollada por las empresas de tecnología, haciendo que la propiedad sea de código abierto de facto. Entre las herramientas que tiene sentido considerar, especialmente para tecnologías maduras, grandes empresas o casos de IA que están ganando rápidamente la aceptación de los usuarios, se encuentran las licencias obligatorias (a tarifas reguladas) y el requisito de publicar el código fuente.

Después de todo, todos nosotros generamos los grandes datos en los que se entrenará cualquier IA exitosa. El público tiene un fuerte derecho a los frutos de su trabajo en los datos.

Otras lecturas

  • Tobias Gerke y Julian Ringhoff del Consejo Europeo de Relaciones Exteriores argumentan en un importante análisis de cómo la UE ha actualizado su pensamiento sobre la política comercial estratégica: “No puede haber un sistema de comercio abierto que funcione sin una orden de seguridad correspondiente para garantizarlo”.

  • El proyecto del euro digital avanza, pero todavía tiene que ganar un amplio apoyo público.

  • El Consejo de Europa es un registro de los daños causados ​​por el ataque de Rusia a Ucrania. Como iniciativa multilateral oficial, esto debería hacer que sea más fácil responsabilizar financieramente a Rusia por la devastación que ha causado, incluso mediante la eventual confiscación de sus activos.

  • La nueva plataforma de contratación conjunta de gas natural de la UE ha obtenido mejores resultados de lo esperado en su primera licitación.

cifras de noticias

Gran Bretaña después de la salida de Gran Bretaña de la Unión Europea Manténgase al día con los últimos acontecimientos a medida que la economía del Reino Unido se adapta a la vida fuera de la UE. Registrar aquí

Secretos comerciales Una lectura obligada sobre la cara cambiante del comercio internacional y la globalización. Registrar aquí

Copyright © All rights reserved. | Newsphere by AF themes.