La nueva herramienta será parte del chatbot Grok desarrollado por el proyecto XAI del multimillonario
Elon Musk ha anunciado que su startup de inteligencia artificial, Xai, planea lanzar una nueva aplicación centrada en el contenido amigable para los niños que se llamará Baby Grok. La noticia se produce cuando el chatbot insignia de la compañía, Grok, continúa enfrentando fuertes críticas por una amplia gama de fallas.
“Vamos a hacer Baby Grok en Xai, una aplicación dedicada al contenido amigable para los niños”, El multimillonario con sede en Estados Unidos publicó en X el domingo, aunque no proporcionó más detalles o cronogramas para el lanzamiento de la aplicación.
El anuncio se produce meses después de que Google anunció el lanzamiento de su aplicación Gemini para niños, que ofrece ayuda con la tarea, responde preguntas y genera historias, al tiempo que permite a los padres administrar el acceso a través de la aplicación Family Link.
La declaración de Musk se produce en medio de una creciente controversia en torno a su empresa de IA, especialmente la última versión de su chatbot, Grok 4, que se lanzó el 10 de julio.
Grok ha generado intensas críticas por una serie de resultados ofensivos e inflamatorios. En los últimos meses, empujó el “Genocidio blanco” teoría de la conspiración, referida a sí misma como “Mechahitler” y se hizo eco de la retórica de negación del Holocausto: declaraciones que Xai atribuyó a cambios rápidos no autorizados. Algunas de las respuestas del BOT también hicieron referencia a líderes políticos, lo que llevó a varios países a lanzar investigaciones sobre preocupaciones relacionadas con el discurso de odio e incitación.
Más recientemente, el lanzamiento de Grok 4 introdujo nuevas preocupaciones. Los usuarios notaron que el bot a menudo reflejaba las opiniones públicas de Musk al responder preguntas políticas, levantando banderas rojas sobre el sesgo. Mientras tanto, su característica de Grok Companions, particularmente un avatar de estilo de anime llamado ANI, desencadenó una protesta adicional después de comportarse coquetamente y aparecer en lencería, incluso en modo infantil, a pesar de ser comercializado como una herramienta para una participación más amplia del usuario.
Las preocupaciones sobre la rápida expansión de la IA han estado creciendo a nivel mundial, particularmente sobre el potencial de la propagación de la información errónea, el refuerzo del sesgo, así como la falta de responsabilidad. Los expertos han advertido que sin fuertes salvaguardas, las herramientas de IA mal moderadas podrían exponer a los niños al contenido inapropiado y al daño emocional.
Puedes compartir esta historia en las redes sociales:
