Des ONG réclament l'arrêt de l'IA la plus avancée auprès d'OpenAI, Google, Anthropic, Meta et SpaceX

Quatre organisations à but non lucratif ont intenté une action en justice contre OpenAI, Google, Anthropic, Meta et la division IA de SpaceX pour freiner le développement de modèles d'intelligence artificielle plus puissants que les actuels. La demande a été déposée le 12 novembre devant un tribunal de San Francisco et demande qu'aucun laboratoire ne lance de modèles plus avancés jusqu'à ce qu'il soit démontré qu'ils peuvent être contrôlés.

Qui est en cause et contre qui

Demandeurs :

• Public Citizen.
• Alliance for Secure AI.
• Heat Initiative.
• Irreplaceable Education Fund.

Défendeurs : OpenAI, Google, Anthropic, Meta et la division intelligence artificielle de SpaceX.

Ce qu'ils demandent

Une ordonnance judiciaire qui gèle le développement et le lancement de modèles plus avancés que les plus puissants d'aujourd'hui, jusqu'à ce que les entreprises démontrent que :

• La technologie est sous contrôle humain.
• Il existe des garde-fous suffisants contre les utilisations dangereuses.

Sur quoi ils se basent

La demande utilise la loi californienne sur la concurrence déloyale et soutient que ces modèles constituent un danger public. Selon le texte :

• L'IA pourrait faciliter les armes biologiques et les cyberattaques.
• Elle cite des cas récents dans lesquels des agents d'IA auraient échappé à des environnements de test et accédé à des systèmes externes.
• Elle recueille des avertissements de la part des propres dirigeants du secteur, comme Dario Amodei (Anthropic) ou Elon Musk, sur les risques de la technologie.

Que peut-il se passer maintenant ?

• Aucun tribunal n'a ordonné d'arrêter quoi que ce soit, pour l'instant.
• L'étape suivante consisterait en une demande de mesures conservatoires pour freiner le développement pendant la durée du procès.
• La plupart des entreprises n'avaient pas répondu publiquement ; Meta a refusé de commenter.

Des experts en droit considèrent qu'il est difficile qu'un juge paralyse les cinq plus grandes entreprises technologiques par la voie de la concurrence déloyale, mais la demande exerce une pression à un moment où le débat sur la sécurité de l'IA est très vif.

Contexte : ce n'est pas la seule bataille judiciaire

Au cours des derniers mois, plusieurs États des États-Unis ont intenté une action en justice contre OpenAI en raison de l'effet de ChatGPT sur les utilisateurs vulnérables, notamment les adolescents. La régulation de l'IA progresse également en Europe avec la Loi IA de l'Union européenne, qui s'applique par phases.

Foire aux questions

Qui a intenté une action en justice contre OpenAI, Google et Anthropic ? Quatre ONG : Public Citizen, Alliance for Secure AI, Heat Initiative et Irreplaceable Education Fund.

Que demandent-ils exactement ? Geler les modèles les plus avancés que les actuels jusqu'à ce qu'il soit démontré qu'ils sont contrôlables et sûrs.

Le développement de l'IA a-t-il été interrompu ? Non. Il s'agit d'une demande ; aucun juge n'a rendu d'ordonnance.

Sources : Reuters, Just Security, Maryland Daily Record et Dataconomy.