Le DoD forme un groupe de travail sur l'IA générative pour aider à améliorer le renseignement et la planification des combats

Source: Le papier

Le journaliste Fang Xiao

Source de l'image : générée par l'IA illimitée

Le groupe de travail de Lima évaluera, synchronisera et tirera parti des capacités d'IA génératives à travers le DoD et tirera également parti des partenariats entre le DoD et la communauté du renseignement et d'autres agences gouvernementales.

Le risque "d'hallucination" est trop élevé pour les grands modèles de langage dans de nombreux cas d'utilisation, tels que "tout ce qui bouge", ou lorsqu'il s'agit d'armes mortelles.

Le 10 août, heure locale, le département américain de la Défense a annoncé la création d'un groupe de travail sur l'intelligence artificielle générative (IA), appelé groupe de travail Lima (Lima), qui analysera et intégrera l'intelligence artificielle générative telle que le grand modèle de langage ( LLM) du ministère de la Défense. Les outils intelligents jouent un rôle clé.

"Mise en œuvre responsable"

"La formation du groupe de travail de Lima souligne le ferme engagement du ministère de la Défense à diriger l'innovation en matière d'IA", a déclaré la sous-secrétaire à la Défense Kathleen Hicks, qui a dirigé la formation du groupe. notre objectif reste d'assurer la sécurité nationale, de minimiser les risques et d'intégrer ces technologies de manière responsable. L'avenir de la défense nationale ne consiste pas seulement à adopter des technologies de pointe, mais à faire preuve de prévoyance, de responsabilité et d'un plus grand engagement envers notre nation. les implications de grande envergure pour y parvenir.

Dirigé par le Bureau principal de l'intelligence numérique et artificielle, le groupe de travail de Lima évaluera, synchronisera et exploitera les capacités d'IA génératives à travers le DoD et tirera également parti des partenariats entre le DoD et la communauté du renseignement et d'autres agences gouvernementales.

Le bureau en chef de l'intelligence numérique et artificielle commence ses opérations en juin 2022 et se consacre à l'intégration et à l'optimisation des capacités d'IA au sein du ministère de la Défense.

Le département américain de la Défense a déclaré qu'en utilisant des modèles d'intelligence artificielle générative, il vise à améliorer ses opérations dans les domaines de la guerre, du commerce, de la santé, de la préparation au combat et de la politique. "Nous devons également considérer dans quelle mesure nos adversaires utiliseront cette technologie et chercheront à saper notre compréhension des solutions basées sur l'IA", a déclaré Craig Martell, responsable de l'intelligence numérique et artificielle au Département de l'utilisation de la Défense."

"Le ministère de la Défense reconnaît le potentiel de l'intelligence artificielle générative pour améliorer considérablement le renseignement, la planification opérationnelle et les processus administratifs et commerciaux. Cependant, une mise en œuvre responsable est essentielle pour gérer efficacement les risques associés. " Commandant de mission de la Force opérationnelle de Lima, capitaine numérique et naval Manuel Xavier Lugo, membre du Algorithmic Warfare Council du Chief Office of Artificial Intelligence.

Selon le média militaire américain "Defense One", le groupe de travail aidera également le Pentagone à mieux comprendre ce qui doit être acheté pour atteindre de nouveaux objectifs d'intelligence artificielle, qui peuvent inclure davantage de services cloud, de données ou de données synthétiques et de modèles.

** Comment résoudre le problème de "l'illusion" ? **

L'intelligence artificielle générative génère de nouvelles sorties basées sur des données formées. De tels outils pour le public incluent des chatbots basés sur de grands modèles de langage tels que ChatGPT, qui peuvent écrire de nouveaux textes qui ressemblent à une sortie humaine. Il a été utilisé pour rédiger des articles , des plans d'affaires et même articles scientifiques. Mais parce que les grands modèles de langage sont entraînés sur des corpus de données provenant d'Internet, ils peuvent parfois mentir, ce que l'on appelle « hallucinants ». Pour cette raison, les responsables du Pentagone ont exprimé leur réticence à adopter l'IA générative.

"Le DoD doit chercher de manière responsable à adopter des modèles d'IA génératifs tout en identifiant les garanties appropriées et en atténuant les risques de sécurité nationale qui peuvent découler de problèmes tels que la mauvaise gestion des données de formation", a déclaré Martell. Il a noté qu'il existe de nombreux cas d'utilisation où le risque "d'halluciner" est trop élevé pour utiliser de grands modèles de langage, tels que "tout ce qui bouge", ou lorsqu'il s'agit d'armes mortelles. Le DoD doit comprendre où ils peuvent être utilisés en toute sécurité et où les adversaires peuvent les déployer.

Une question est de savoir si le DoD dispose de suffisamment de données pour que l'IA générative fonctionne. Bien que le département dispose d'une multitude de données internes soigneusement conservées, des tonnes de diagnostics de moteurs à réaction ou des années de séquences de surveillance de drones au Moyen-Orient ne constituent pas de grands modèles linguistiques.

"C'est une question ouverte de savoir si nous avons suffisamment de données couvrant une plage suffisamment large pour maintenir la valeur du modèle sans données pré-formées. D'autre part, mon hypothèse est que les données pré-formées Plus il y en a, plus il est probable d'halluciner. C'est donc un compromis que nous devons explorer. Je ne sais pas, et je ne pense pas que la communauté scientifique connaisse encore la réponse », a déclaré Martel.

Au moins l'une des raisons pour lesquelles des outils tels que ChatGPT ne conviennent pas actuellement au ministère de la Défense est la quantité d'ingénierie nécessaire pour générer des résultats appropriés. Une longue arborescence d'invites convient aux amateurs, mais les opérateurs qui doivent effectuer des tâches complexes ont besoin d'une interface intuitive et plus fonctionnelle dès le départ, a déclaré Martel.