El drama de Grok plantea preguntas sobre la regulación de la IA

El chatbot de la inteligencia artificial (IA) de Elon Musk ha sido plagado de controversia recientemente sobre sus respuestas a los usuarios, planteando preguntas sobre cómo las empresas tecnológicas buscan Contenido moderado de AI y si Washington debería desempeñar un papel en la configuración de pautas.

© Allison Robbert/Pool a través de AP

Grok enfrentó un escrutinio agudo la semana pasada, después de que una actualización llevó al chatbot Ai a producir respuestas antisemitas y alabar a Adolf Hitler. Musk’s AI Company, xai, eliminado rápidamente Numerosos puestos incendiarios y dijo que agregó barandillas para “prohibir el discurso de odio” del chatbot.

Solo unos días después, Xai dio a conocer su La versión más nueva de Grokque Musk afirmó que era el “modelo de IA más inteligente del mundo”. Sin embargo, los usuarios pronto descubrieron que el chatbot parecía ser Confiar en las opiniones de su propietario para responder a consultas controvertidas.

“Deberíamos estar extremadamente preocupados de que el modelo de IA de mejor rendimiento en el mercado esté alineado en Hitler. Eso debería desencadenar algunas campanas de alarma para la gente”, Chris Mackenzie, vicepresidente de comunicaciones de Americans for Responsel Innovation, un grupo de defensa centrado en la política de IA.

“Creo que estamos en un período en este momento, donde los modelos de IA todavía no son increíblemente sofisticados”, continuó. “Pueden tener acceso a mucha información, correcto. Pero en términos de su capacidad para actos maliciosos, todo es muy abierto y no increíblemente sofisticado”.

“Hay mucho espacio para que abordemos este comportamiento desalineado antes de que se vuelva mucho más difícil y mucho más difícil de detectar”, agregó.

Lucas Hansen, cofundador de la organización sin fines de lucro Civai, cuyo objetivo es proporcionar información sobre Capacidades y riesgos de IAdijo que “no era sorprendente” que fuera posible hacer que Grok se comporte como lo hizo.

“Para cualquier modelo de idioma, puede hacer que se comporte de cualquier manera que desee, independientemente de las barandillas que están actualmente en su lugar”, dijo a The Hill.

Musk anunció la semana pasada que Xai tenía Grok actualizadodespués de expresar las frustraciones con algunas de las respuestas del chatbot.

A mediados de junio, el magnate de la tecnología estaba en desacuerdo con una respuesta de Grok, lo que sugiere que la violencia de derecha se había vuelto más frecuente y mortal desde 2016. Musk afirmó que el chatbot era “Parroting Legacy Media” y dijo que estaba “trabajando en ello”.

Más tarde indicó que era Vuelto al modelo Y pidió a los usuarios que ayuden a proporcionar “hechos divisivos”, que definió como “cosas que son políticamente incorrectas, pero de hecho verdaderas”.

La actualización causó una tormenta de fuego para Xai, como Grok comenzó a hacer generalizaciones amplias sobre personas con apellidos judíos y perpetuos estereotipos antisemitas sobre Hollywood.

Consulte el informe completo en thehill.com.

Bienvenido a la colina Boletín de tecnologíaSoy Julia Shapero, rastreando los últimos movimientos de Capitol Hill a Silicon Valley.

Noticias de las que hemos señalado TLa intersección de la tecnología y otros temas:

Voto de cripto de procedimiento de los conservadores de línea dura

Doce, los republicanos de la Cámara de Representantes de línea dura se derrumbaron el martes un voto de procedimiento por preocupaciones con la legislación de criptografía que la Cámara se está preparando para considerar, poniendo el piso en detención y dando un golpe al orador Mike Johnson (R-La.) Y el liderazgo republicano.

La votación sobre la regla, que rige el debate para la legislación, no alcanzó el apoyo mayoritario necesario para la adopción con un 196-223 Tally, evitando que la Cámara debate y eventualmente vote sobre la legislación para financiar el Pentágono para el año fiscal 2026 y tres proyectos de ley criptográficos.

Los votos republicanos “no” incluyeron a los representantes Ann Paulina Luna (Florida), Scott Perry (Pa.), Chip Roy (Texas), Victoria Spartz (Ind.), Michael Cloud (Texas), Andrew Clyde (Ge.), Eli Crane (Ariz.), Yy Harris (Md.), Marjorie Taylor (Ga.), Tim Burchett. (Texas) y Andy Biggs (Ariz.).

Líder de la mayoría de la Cámara de Representantes Steve Scalise (R-La.) Cambió su voto a “no” como un movimiento de procedimiento para permitir que la cámara vuelva a votar en la medida en una fecha posterior.

Johnson dijo a los periodistas después de la votación que los críticos de línea dura quieren vincular los proyectos de ley de criptografía con un solo producto, por lo que torpedearon el voto procesal.

La Cámara esta semana está programada para votar sobre el Acto de genionegociado por el Senado, que crearía un marco regulatorio para Stablecoins.

También está listo para considerar el Ley de claridad del mercado de activos digitales de 2025, que establecería regulaciones para el mercado de criptomonedas más amplio, así como el Ley Estatal de Vigilancia Anti-CBDCque evitaría que la Reserva Federal emita una moneda digital del banco central.

“Algunos miembros que realmente realmente quieren enfatizar el producto de la Cámara, como saben, la Ley de Claridad y la Ley anti-CBDC”, dijo Johnson.

“También tenemos nuestras facturas”, continuó. “Quieren impulsar eso y fusionar eso juntos. Estamos tratando de trabajar con la Casa Blanca y con nuestros socios del Senado en esto. Creo que todos insisten en que vamos a hacer los tres, pero algunos de estos tipos insisten en que todo debe estar en un solo paquete”.

Crypto Corner es una característica diaria centrada en la moneda digital y su perspectiva en Washington.

Ramificarse con otras lecturas en la colina:

NASA Drops planea publicar un informe de cambio climático en su sitio

En una reversión, la NASA ya no planea publicar un importante informe climático cuyo sitio web anterior fue fregado por la administración Trump. El informe en cuestión, conocido como la Evaluación Nacional del Clima, se alojó previamente en GlobalChange.gov. Después de que la administración Trump eliminó el sitio web del Programa de Investigación del Cambio Global de EE. UU. (USGCRP), la portavoz de la NASA, Bethany Stevens, dijo que “todos los informes preexistentes …

¿Interesado en explorar una nueva carrera? Visita La Junta de Jobs de Hill para descubrir millones de roles en todo el mundo, incluyendo:

Asociado, Relaciones Gubernamentales y Comunicaciones Corporativas – Rudin, Nueva York. Aplicar

Líder de desarrollo comercial, DoD y gobierno – Poseidon Aerospace, San Francisco. Aplicar

Abogado asociado de contratos gubernamentales – Link lateral, Washington, DC Aplicar

Especialista en políticas senior – Arnold Porter, Washington, DC Aplicar

Haga clic aquí para mencionar su trabajo

Opiniones relacionadas con la tecnología presentada a la colina: