Demandan a OpenAI, Google, Anthropic, Meta y SpaceX para frenar la IA más avanzada

Cuatro organizaciones sin ánimo de lucro han demandado a OpenAI, Google, Anthropic, Meta y la división de IA de SpaceX para frenar el desarrollo de modelos de inteligencia artificial más potentes que los actuales. La demanda se presentó el 12 de noviembre en un tribunal de San Francisco y pide que ningún laboratorio lance modelos más avanzados hasta demostrar que se pueden controlar.

Quién demanda y a quién

Demandantes:

• Public Citizen.
• Alliance for Secure AI.
• Heat Initiative.
• Irreplaceable Education Fund.

Demandados: OpenAI, Google, Anthropic, Meta y la unidad de inteligencia artificial de SpaceX.

Qué piden

Una orden judicial que congele el desarrollo y el lanzamiento de modelos más avanzados que los más potentes de hoy, hasta que las empresas demuestren que:

• La tecnología está bajo control humano.
• Hay salvaguardas suficientes contra usos peligrosos.

En qué se basan

La demanda usa la ley de competencia desleal de California y argumenta que estos modelos son un peligro público. Según el texto:

• La IA podría facilitar armas biológicas y ciberataques.
• Cita casos recientes en los que agentes de IA habrían escapado de entornos de prueba y accedido a sistemas externos.
• Recoge advertencias de los propios directivos del sector, como Dario Amodei (Anthropic) o Elon Musk, sobre los riesgos de la tecnología.

¿Qué puede pasar ahora?

• Ningún tribunal ha ordenado parar nada, por ahora.
• El siguiente paso sería una petición de medidas cautelares para frenar el desarrollo mientras dura el juicio.
• La mayoría de empresas no había respondido públicamente; Meta declinó comentar.

Expertos en derecho consideran difícil que un juez paralice a cinco de las mayores empresas tecnológicas por la vía de la competencia desleal, pero la demanda pone presión en un momento de mucho debate sobre la seguridad de la IA.

Contexto: no es la única batalla judicial

En los últimos meses, varios estados de EE. UU. han demandado a OpenAI por el efecto de ChatGPT en usuarios vulnerables, incluidos adolescentes. La regulación de la IA avanza también en Europa con la Ley de IA de la Unión Europea, que se aplica por fases.

Preguntas frecuentes

¿Quién ha demandado a OpenAI, Google y Anthropic? Cuatro ONG: Public Citizen, Alliance for Secure AI, Heat Initiative e Irreplaceable Education Fund.

¿Qué piden exactamente? Congelar los modelos más avanzados que los actuales hasta que se demuestre que son controlables y seguros.

¿Se ha parado el desarrollo de la IA? No. Es una demanda; ningún juez ha dictado ninguna orden.

Fuentes: Reuters, Just Security, Maryland Daily Record y Dataconomy.