Noticias

Jun 05, 2023

La IA de Gizmodo

La primera incursión del propietario de Gizmodo, G/O Media, en el contenido generado por IA fue confusa, evitable e insultante tanto para los lectores como para los empleados. Y, sin embargo, el artículo en cuestión generado por IA finalmente hizo lo que esperaba.

La primera incursión del propietario de Gizmodo, G/O Media, en el contenido generado por IA fue confusa, evitable e insultante tanto para los lectores como para los empleados.

Y, sin embargo, el artículo en cuestión generado por IA finalmente hizo lo que aparentemente fue diseñado para hacer: clasificar en los resultados de búsqueda.

Después del desastre que supuso llegar hasta aquí, ese hallazgo debería preocupar a todos en la industria de los medios. Es un vistazo temprano a un futuro distópico en el que los modelos de IA generan contenido para otros robots, a expensas de los humanos atrapados en las consecuencias.

Para retroceder un poco: a finales de junio, G/O Media, propietaria de Gizmodo, Kotaku, The Onion y Quartz, entre otros, anunció que comenzaría a publicar contenido generado por IA en sus numerosas publicaciones como parte de una "prueba modesta".

"No debería ser una sorpresa que hayamos pensado mucho en la Inteligencia Artificial, tal como lo han estado haciendo todos en el negocio de los medios últimamente", escribió Merrill Brown, director editorial del grupo de medios, en un correo electrónico a empleados. "Estamos convencidos de que los cambios que la IA traerá a los mundos de los medios y el periodismo serán muy significativos, aunque difíciles de predecir con certeza, en 2023".

Como era de esperar, los empleados de las publicaciones propiedad de G/O Media estaban furiosos en respuesta a la noticia. Y resultó que con razón. En el primer artículo generado por IA que Gizmodo publicó la semana pasada, el "Gizmodo Bot" del sitio web falló por completo. La publicación, la llamada "Lista cronológica de películas y programas de televisión de Star Wars", estaba terriblemente escrita y plagada de errores fácticos. Antes de ser corregida, la lista no colocaba las películas y programas en el orden cronológico correcto y excluía algunos capítulos y derivados más recientes de la querida franquicia.

Fue, por decirlo suavemente, una apariencia terrible para la compañía, y después, los humanos de Gizmodo retrocedieron aún más, y el editor adjunto James Whitbrook calificó la lista de "vergonzosa, impublicable e irrespetuosa".

Lo que nos lleva al día de hoy. A pesar de todos los errores y la falta de consentimiento del personal, parece que el artículo generado por el bot de Gizmodo aún logró clasificarse y aparecer en la primera página de resultados de Google cuando se buscan las palabras "películas de Star Wars".

Y aunque algunos de los errores más atroces de la lista han sido corregidos, todavía expone a los lectores a información incorrecta que un aficionado humano a "Star Wars" probablemente habría captado.

Para empezar, contiene un error tipográfico evidente, refiriéndose a "Las Guerras Clon" como "Una película animada [sic]".

Un problema más serio es que todas las entregas que la IA enumeró son canon, lo que significa que comprenden la tradición autorizada de la franquicia "Star Wars", excepto una. La última entrada de la lista, "Star Wars: Visions", no es en absoluto canónica del universo de "Star Wars"; en cambio, por su encuadre explícito, es una reinterpretación de la mitología de la franquicia que no se ajusta al canon establecido. En otras palabras, si la IA iba a incluir las "Visions" no canónicas, también podría incluir la serie animada no canónica "Star Wars: Droids" de los años 80, o el notorio "Star Wars Holiday Special" de 1978. La AI no proporcionó ninguna explicación sobre la discrepancia.

Peor aún, dado que "Visions" es una antología, incluye episodios repartidos a lo largo de la línea de tiempo de "Star Wars", lo que significa que la afirmación de la IA de que es la última entrega cronológica de "Star Wars" es lamentablemente errónea.

Un error igualmente irritante: la IA enumera la película "The Clone Wars" de 2008 como ambientada después de la serie de televisión "The Clone Wars". Eso es rotundamente incorrecto; Según la cronología oficial de Disney, la película se desarrolla en varios episodios de la serie.

¿Son estas quejas meollo de la cuestión? Claro, pero el propósito de la lista es brindar información precisa sobre la franquicia "Star Wars", y el talentoso personal de Gizmodo se ha ganado una reputación de décadas de preocuparse por obtener datos correctos sobre temas nerd. Un experto humano, con una inversión en el fandom, habría podido abordar el tema de una manera mucho más matizada, proporcionando a los lectores información precisa y bien contextualizada.

GO no respondió a las preguntas sobre las persistentes imprecisiones en el artículo generado por el bot.

Además de estar mal escrito, está claro que el artículo nunca estuvo destinado a lectores humanos. En cambio, la táctica obvia es engañar a los algoritmos de búsqueda para que lo clasifiquen en un lugar alto y, dada su clasificación en la Búsqueda de Google, claramente cumplió ese objetivo. En muchos sentidos, es una prueba de concepto para un sistema deprimente en el que los robots escriben principalmente para robots, y el papel de los humanos, ya sean escritores, editores o lectores, disminuye cada vez más en el proceso.

Un portavoz de Google proporcionó una declaración que no abordaba directamente la prominencia del artículo plagado de errores en los resultados de búsqueda de la empresa.

"Nuestro objetivo para la Búsqueda es mostrar contenido útil y relevante creado para las personas, en lugar de para obtener una clasificación alta en los motores de búsqueda", se lee en el comunicado. "Y durante 20 años, la Búsqueda se ha adaptado para abordar nuevas técnicas de spam y contenido de baja calidad, incluido el contenido producido en masa en diversas formas. El contenido creado con el objetivo de jugar con el ranking de búsqueda, independientemente de si es producido por humanos o por IA, todavía es spam y será tratado como tal. Gracias a nuestros sistemas avanzados de lucha contra el spam, podemos mantener la Búsqueda libre de spam en un 99 por ciento. Y continuamos lanzando mejoras para reducir el contenido no original y de baja calidad diseñado para atraer clics".

Naturalmente, las partes interesadas ven las cosas de otra manera.

"El contenido de IA no reemplazará mi trabajo, pero lo devaluará, supondrá una carga indebida para los editores, destruirá la credibilidad de mi medio y frustrará aún más a nuestra audiencia", tuiteó Lin Codega, periodista de Gizmodo, cuando se anunció por primera vez la iniciativa de IA. . "La IA, en cualquier forma, sólo socava nuestra misión, desmoraliza a nuestros periodistas y degrada la confianza de nuestra audiencia".

Esta tontería generada por la IA y que requiere poco esfuerzo todavía no augura nada bueno ni para Internet ni para el futuro de la industria de los medios. Todavía tenemos que ver un ejemplo de una iniciativa de IA generativa en la industria del periodismo que no haya sido desastrosa de una forma u otra. En el clamor por sacar provecho de esta tendencia, los lectores reciben contenido incorrecto, plagiado o sin inspiración, mientras que los escritores y editores se ven obligados a perseguir error tras error que plagan las historias producidas por robots.

Pero eso no ha impedido que los ejecutivos de medios lo intenten de todos modos, aparentemente fascinados por el brillo del contenido barato, escalable y compatible con SEO que no depende de humanos molestos. Y Google es muy cómplice y recompensa estos esfuerzos permitiendo que contenido generado por IA y mal investigado tenga una clasificación alta.

Lo que nos deja con una pregunta crítica: ¿cómo será el futuro de Internet cuando los bots estén diseñados principalmente para servir a otros bots con su contenido? Es una visión que no inspira mucha confianza, y ciertamente se siente como un momento de "a qué costo".

Actualizado para identificar correctamente el puesto de trabajo de Merrill Brown.

Más sobre la lista del infierno SEO:El personal de Io9 se horroriza cuando el sitio publica basura generada por IA llena de errores

Comparte este artículo