John Oliver cubrió los peligros de la IA en su programa semanal de HBO, llamándolo “preocupantemente corrosivo” para la sociedad.
La semana pasada de esta noche, Oliver dijo que la “propagación de las herramientas de generación de IA ha facilitado la inundación de los sitios de redes sociales con contenido barato, de aspecto profesional, a menudo profundamente extraño”, utilizando el término AI Slop para describirlo todo.
Se refirió a él como la “nueva iteración de spam” con imágenes extrañas y videos que inundan el feed de las personas con algunas personas no tienen “absolutamente ninguna idea de que no es real”.
Oliver dijo que es “extremadamente probable que nos vamos a ahogar en esta mierda en el futuro previsible”.
Con un contenido como este, “todo el punto es llamar su atención” y dado lo fácil que es hacerlo, la barrera de entrada se ha reducido.
Meta no solo se ha unido al juego con su propia herramienta, sino que también ha modificado el algoritmo, lo que significa que más de un tercio de contenido en su feed ahora es de cuentas que no sigue. “Así es como Slop se escapa sin su permiso”, dijo.
Hay programas de monetización para personas que se vuelven virales con éxito y ahora una variedad de gurús Slop de IA que enseñarán a las personas qué hacer por una pequeña tarifa.
Es “en última instancia un juego de volumen como cualquier forma de spam” y ha llevado a los generadores de IA desgarrando el trabajo de los artistas reales sin acreditarlos. Pero “para todas las charlas de riquezas en esos videos de gurú de Slop, el dinero involucrado aquí puede ser relativamente pequeño”.
Puede ser tan pequeño como unos pocos centavos y, a veces, cientos de dólares si va mega-viral, lo que significa que gran parte proviene de países donde el dinero va más allá de India, Tailandia, Indonesia y Pakistán,
Una de las desventajas es tener que explicar a los padres que el contenido no es real. “Si ves un animal tan lindo que desafía la realidad y no es moo deng, lo más probable es que sea ai”, dijo.
También hay un impacto ambiental en los recursos necesarios para producirlo, así como la preocupación de la desinformación.
Oliver habló sobre los muchos desastres falsos que se han creado con imágenes y videos que muestran tornados, explosiones y accidentes aviónicos que no existen. “Los viajes aéreos son lo suficientemente aterradores ahora sin que la gente invente nuevos desastres”, dijo.
La IA generativa también se ha utilizado durante el conflicto de Israel-Irán y planteó problemas para los primeros en responder con las inundaciones en Carolina del Norte el año pasado. También fue utilizado por los republicanos para demostrar que Biden no estaba manejando bien la última situación con imágenes falsas utilizadas a la derecha a pesar de que se les dijo que no eran reales.
“Es bastante irritante para las mismas personas que pasaron la última década gritando ‘noticias falsas’ en cualquier titular que no les gustaba enfrentar con noticias falsas reales y de repente estar extremadamente abiertos a ello”, dijo.
Si bien la propagación no fue tan perjudicial como la cabeza temió durante las elecciones estadounidenses del año pasado, la IA “ya es significativamente mejor de lo que era entonces”.
Añadió: “No es solo que podamos engañarnos con cosas falsas, es que la existencia misma de ella luego faculta a los malos actores para descartar videos e imágenes reales como falsas”.
Oliver dijo que todo es “preocupantemente corrosivo para el concepto de realidad objetiva”, con las plataformas que encuentran más difícil detectar la IA.
“No estoy diciendo que algunas de estas cosas no son divertidas de ver, estoy diciendo que algunas de estas cosas son potencialmente muy peligrosas”, dijo.
