El Concejo Municipal de Nueva York ha lanzado una contundente advertencia al mundo de la inteligencia artificial, citando formalmente a Elon Musk y su compañía SpaceXAI para que rindan cuentas sobre los riesgos inherentes a su sistema de IA, Grok. La citación, emitida ante la falta de respuesta de la empresa a solicitudes previas, subraya la creciente preocupación de la metrópoli por la seguridad y el impacto de estas tecnologías disruptivas.
La audiencia, programada para el 5 de octubre, forma parte de una investigación exhaustiva que busca determinar si los peligros asociados con la inteligencia artificial justifican la implementación de nuevas y estrictas medidas de seguridad y regulación. Este movimiento pone a Musk y su empresa en el centro del debate, mientras otras gigantes tecnológicas como OpenAI, Google, Anthropic y Meta ya han confirmado su participación, algunas tras ser advertidas sobre posibles citaciones.
El Escenario de la Investigación Municipal
Los 51 miembros del Concejo Municipal participarán en el Comité de Pleno, dedicando sus esfuerzos a examinar a fondo los riesgos que emanan del vertiginoso desarrollo de la IA. El objetivo es doble: evaluar las salvaguardas implementadas por las principales compañías del sector y determinar las herramientas de las que dispone la ciudad para establecer un marco regulatorio robusto. La carta enviada por la presidenta del Concejo, Julie Menin, a Musk, detalla la intención de la investigación de sopesar si los riesgos emergentes para la seguridad pública, la ciberseguridad, la estabilidad económica, la privacidad, los consumidores y las empresas exigen acciones legislativas inmediatas.
La ciudad busca comprender las medidas de protección que las empresas de IA están aplicando actualmente y qué pasos adicionales podrían ser necesarios para mitigar los peligros asociados con estas tecnologías. Paralelamente, el Concejo está analizando un ambicioso paquete de propuestas legislativas destinadas a redefinir las obligaciones de las empresas de IA que operan en Nueva York. Una de las iniciativas clave propone que los sistemas de IA comercializados, vendidos o desplegados en la ciudad se sometan a una validación independiente que aborde aspectos críticos como la calidad de los datos, los sesgos inherentes, la privacidad y la seguridad general.
Propuestas Regulatorias y Sanciones Potenciales
Otra propuesta significativa contempla la inclusión de un mecanismo de control humano que permita la desactivación de los sistemas de IA cuando sea necesario. Adicionalmente, se está considerando la creación de un incentivo económico para los denunciantes que expongan infracciones cometidas por compañías de IA. La legislación también podría permitir que individuos afectados por daños previsibles derivados del uso de sistemas de IA demanden a las empresas si estas no han implementado medidas de protección razonables. El Concejo también está evaluando la implementación de reglas que obliguen a los contratistas de la ciudad a reportar incidentes de seguridad relacionados con la IA y a establecer mecanismos de respuesta ágiles ante posibles ataques o fallas que afecten sistemas públicos.
La citación formal a SpaceXAI la distingue de otras grandes corporaciones convocadas. Mientras Meta accedió a participar y OpenAI, Google y Anthropic confirmaron su asistencia tras la advertencia de posibles citaciones, SpaceXAI fue la única que, según el Concejo Municipal, no respondió a tiempo a la solicitud inicial. Esta omisión ha colocado a la empresa en una posición particularmente delicada frente a las autoridades neoyorquinas.
El Contexto de SpaceXAI y las Demandas Previas
SpaceXAI, que actualmente integra los negocios de SpaceX y xAI tras la adquisición de esta última por parte de Musk en febrero de 2026, se dedica al desarrollo de sistemas de IA para acelerar el descubrimiento científico, con Grok como uno de sus productos estrella. Sin embargo, la empresa ya enfrenta escrutinio legal por el uso de Grok para generar imágenes sexualizadas sin consentimiento. En marzo, la ciudad de Baltimore presentó una demanda contra X y xAI, alegando violaciones a las normas de protección al consumidor por la generación y distribución de material sexualizado no consentido. Por otro lado, un grupo de adolescentes ha presentado una demanda en California contra xAI, argumentando que herramientas vinculadas a Grok fueron utilizadas para transformar fotografías de menores en imágenes sexualizadas.
Estos casos legales previos forman parte del contexto que impulsa el interés de Nueva York en examinar las medidas de seguridad de los desarrolladores de IA. Es crucial señalar que la citación emitida por el Concejo no implica una determinación de culpabilidad o violación de normas por parte de SpaceXAI. Las nuevas iniciativas legislativas se presentan como un esfuerzo proactivo para establecer reglas claras sobre sistemas que ya están en uso dentro de la ciudad.
El Futuro de la Regulación de IA en Nueva York
Una de las propuestas más contundentes contempla la imposición de una multa de 25,000 dólares por cada caso en que un sistema de IA sea desplegado sin la validación externa requerida, en caso de que la iniciativa se convierta en ley. El Concejo Municipal argumenta que la significativa presencia de empresas de IA en Nueva York justifica el interés de la ciudad en comprender a fondo cómo desarrollan y controlan sus productos. La presidenta Menin ha enfatizado que Nueva York aspira a mantener su posición como un centro tecnológico de vanguardia, al tiempo que se abordan de manera responsable los desafíos que plantea la IA.
En caso de que SpaceXAI no cumpla con la citación, el Concejo Municipal ha advertido que podría recurrir a la Corte Suprema del estado de Nueva York para solicitar el cumplimiento forzoso de la misma. Este escenario subraya la seriedad con la que la ciudad está abordando la regulación de la inteligencia artificial y su determinación para asegurar que las innovaciones tecnológicas no comprometan la seguridad y el bienestar de sus ciudadanos.