El director ejecutivo de OpenAI, Sam Altman, sale del almuerzo durante la conferencia de Allen & Company Sun Valley el 6 de julio de 2022 en Sun Valley, Idaho.
Kevin Deitch | Getty Images Noticias | imágenes falsas
El martes, OpenAI, que se especializa en investigación de inteligencia artificial, presentó una herramienta diseñada para saber si el texto está hecho por humanos o escrito por computadora.
El lanzamiento se produce dos meses después de que OpenAI captara la atención del público cuando presentó ChatGPT, un chatbot que genera texto que parece haber sido escrito por una persona en respuesta a su solicitud. Después de la ola de interés de la semana pasada microsoft Anunció una inversión multimillonaria en OpenAI y dijo que integraría los modelos de IA de la startup en sus productos para consumidores y empresas.
Noticias de inversión relacionadas
Las escuelas se apresuraron a limitar el uso de ChatGPT por la preocupación de que el software pudiera dañar el aprendizaje. Sam Altman, director ejecutivo de OpenAI, dijo que la educación ha cambiado en el pasado después de la llegada de tecnologías como las calculadoras, pero también dijo que puede haber formas de ayudar a los maestros a identificar textos escritos con IA.
La nueva herramienta de OpenAI puede cometer errores y es un trabajo en progreso, escribieron los empleados de la compañía Jan Hendrik Kirchner, Lama Ahmad, Scott Aaronson y Jan Leike en una publicación de blog, señalando que a OpenAI le gusta recibir comentarios sobre el libro de trabajo de padres y educadores.
En nuestras evaluaciones sobre el “grupo de desafío” de textos en inglés, el clasificador identifica correctamente el 26 % de los textos escritos por IA (verdaderos positivos) como “probablemente escritos por IA”, mientras que clasifica incorrectamente el texto escrito como escrito artificialmente por IA por 9 %. En ese momento (falsos positivos), escribió el personal de OpenAI.
Este no es el primer intento de averiguar si el texto proviene de un dispositivo. El estudiante de la Universidad de Princeton, Edward Tian, anunció a principios de este mes una herramienta llamada GPTZero, indicando en el sitio web de la herramienta que estaba hecha para educadores. OpenAI mismo lanzó una herramienta de detección en 2019 junto con un modelo de lenguaje grande, o LLM, que es menos complejo que el núcleo de ChatGPT. Los empleados escribieron que la nueva versión está más preparada para manejar texto que los sistemas modernos de IA.
La nueva herramienta no es potente para analizar entradas con menos de 1000 caracteres, y OpenAI no la recomienda para su uso en otros idiomas además del inglés. Además, el texto de la IA puede actualizarse ligeramente para evitar que el clasificador determine que no es esencialmente trabajo humano, escribió el personal.
Incluso en 2019, OpenAI ha dejado en claro que identificar texto sintético no es una tarea fácil. Ella tiene la intención de continuar persiguiendo el desafío.
“Nuestro trabajo sobre la detección de texto generado por IA continuará y esperamos compartir métodos mejorados en el futuro”, escriben Hendrik Kirchner, Ahmed, Aronson y Laike.
Mirar: Un informe dice que la empresa china Baidu está desarrollando un chatbot impulsado por IA para competir con OpenAI.
