Los demócratas del Senado están abriendo una investigación sobre los informes de que el Departamento de Eficiencia del Gobierno de Elon Musk (DOGE) está intentando reemplazar a algunos trabajadores contratados en el departamento de educación con inteligencia artificial (IA).
Sens. Elizabeth Warren (Massachusetts) y Mazie Hirono (Hawai), junto con el líder demócrata del Senado Chuck Schumer (NY), enviaron una carta a la secretaria de educación Linda McMahon después de El New York Times informó Los centros de llamadas que toman preguntas de los estudiantes y las familias sobre la ayuda estudiantil podrían reemplazarse por un bot de IA.
“La propuesta de Doge amenaza con informar mal a los prestatarios y las familias, conducir a violaciones de la privacidad de datos y plantear conflictos de intereses que surgen de la participación financiera de Elon Musk en el desarrollo de la IA”, dijo la carta.
Los centros de llamadas se presentan alrededor de 15,000 preguntas por día de un promedio de 1,600 estudiantes y familias. La propuesta ha sido flotada mientras el presidente busca desmantelar la agencia federal, despidiendo a casi la mitad de los empleados del Departamento de Educación.
“El departamento está abierto al uso de herramientas y sistemas que mejorarían el servicio al cliente, la seguridad y la transparencia de los datos para estudiantes y padres”, dijo Madi Biedermann, subsecretario adjunto de comunicaciones del departamento, a The Times en febrero. “Estamos evaluando todos los contratos para evaluar la efectividad en relación con los costos”.
Los senadores están preocupados por los problemas con las “alucinaciones” de IA, que hacen que los chatbots den la información incorrecta, junto con las preocupaciones de privacidad.
“Si no se protege adecuadamente, la información confidencial presente en los datos de capacitación o en las conversaciones pasadas del chatbot podría filtrarse inadvertidamente durante sus interacciones con otros usuarios o incluso obtener maliciosamente por malos actores”, dice la carta.
Los senadores exigen respuestas antes del 16 de abril a preguntas como si Doge está trabajando para reemplazar los centros de llamadas con bots de IA y, si lo son, qué tipo de salvaguardas se están implementando para proteger a los estudiantes y las familias.
“Dado el registro de Dege de priorizar el caos sobre la competencia, hay pocas razones para creer que el chatbot de IA de Doge realmente satisfaría las necesidades de los prestatarios y las familias”, escribieron los demócratas.
