DoD forma força-tarefa de IA generativa para ajudar a melhorar a inteligência e o planejamento de combate

Fonte: O Papel See More

Repórter Fang Xiao

Fonte da imagem: Gerada por Unbounded AI

A Força-Tarefa de Lima avaliará, sincronizará e alavancará capacidades de IA generativas em todo o DoD e também alavancará parcerias entre o DoD e a comunidade de inteligência e outras agências governamentais.

O risco de "alucinação" é muito alto para modelos de linguagem grandes em muitos casos de uso, como "qualquer coisa que se mova" ou ao lidar com armas letais.

Em 10 de agosto, horário local, o Departamento de Defesa dos Estados Unidos anunciou a criação de um grupo de trabalho de inteligência artificial generativa (IA), denominado grupo de trabalho de Lima (Lima), que analisará e integrará a inteligência artificial generativa, como o grande modelo de linguagem ( LLM) do Departamento de Defesa. As ferramentas inteligentes desempenham um papel fundamental.

"Implementação Responsável"

"A formação da Força-Tarefa de Lima ressalta o forte compromisso do Departamento de Defesa em liderar a inovação em IA", disse a subsecretária de Defesa Kathleen Hicks, que dirigiu a formação do grupo. "À medida que aproveitamos o poder transformador da inteligência artificial, nosso foco continua sendo garantir a segurança nacional, minimizar riscos e integrar essas tecnologias com responsabilidade. O futuro da defesa nacional não é apenas adotar tecnologias de ponta, mas com visão, responsabilidade e um maior compromisso com nossa nação. Um profundo entendimento de as amplas implicações para conseguir isso."

Liderada pelo Chief Office for Digital and Artificial Intelligence, a Lima Task Force avaliará, sincronizará e alavancará capacidades geradoras de IA em todo o DoD e também alavancará parcerias entre o DoD e a comunidade de inteligência e outras agências governamentais.

O Chief Office of Digital and Artificial Intelligence inicia suas operações em junho de 2022 e se dedica a integrar e otimizar os recursos de IA em todo o Departamento de Defesa.

O Departamento de Defesa dos EUA disse que, usando modelos generativos de inteligência artificial, visa aprimorar suas operações nas áreas de guerra, comércio, saúde, prontidão de combate e política. "Também devemos considerar até que ponto nossos adversários usarão essa tecnologia e tentarão minar nossa compreensão das soluções baseadas em IA", disse Craig Martell, chefe de inteligência digital e artificial do Departamento de Defesa.

"O Departamento de Defesa reconhece o potencial da inteligência artificial generativa para melhorar significativamente a inteligência, o planejamento operacional e os processos administrativos e de negócios. No entanto, a implementação responsável é fundamental para o gerenciamento eficaz dos riscos associados." Comandante da Missão da Força-Tarefa de Lima, Capitão Digital e Naval Manuel Xavier Lugo, membro do Conselho de Guerra Algorítmica do Gabinete Principal de Inteligência Artificial.

De acordo com a mídia militar americana "Defense One", a força-tarefa também ajudará o Pentágono a entender melhor o que precisa ser comprado para atingir novos objetivos de inteligência artificial, que podem incluir mais serviços em nuvem, dados ou dados sintéticos e modelos.

** Como resolver o problema da "ilusão"? **

A inteligência artificial generativa gera novos resultados com base em dados treinados. Essas ferramentas para o público incluem chatbots baseados em grandes modelos de linguagem, como o ChatGPT, que pode escrever um novo texto que se parece com a produção humana. Tem sido usado para escrever artigos, planos de negócios e até mesmo papéis científicos. Mas como grandes modelos de linguagem são treinados em corpora de dados da internet, às vezes eles podem mentir, conhecidos como "alucinantes". Por esse motivo, os funcionários do Pentágono têm manifestado sua relutância em adotar a IA generativa.

“O DoD deve procurar adotar com responsabilidade modelos de IA generativos, identificando salvaguardas apropriadas e mitigando os riscos de segurança nacional que podem surgir de problemas como má gestão de dados de treinamento”, disse Martell. Ele observou que há muitos casos de uso em que o risco de "alucinação" é muito alto para empregar modelos de linguagem grandes, como "qualquer coisa que se mova" ou ao lidar com armas letais. O DoD deve entender onde eles podem ser usados com segurança e onde os adversários podem implantá-los.

Uma questão é se o DoD tem dados suficientes para que a IA generativa funcione. Embora o departamento tenha uma riqueza de dados internos cuidadosamente selecionados, resmas de diagnósticos de motores a jato ou anos de imagens de vigilância de drones no Oriente Médio não são modelos de linguagem grandes.

"É uma questão em aberto se temos dados suficientes cobrindo um intervalo suficientemente amplo para manter o valor do modelo sem dados pré-treinados. Por outro lado, minha hipótese é que dados pré-treinados Quanto mais, mais provável é para alucinar. Portanto, é uma compensação que temos que explorar. Não sei, e na verdade não acho que a comunidade científica saiba a resposta ainda ", disse Martel.

Pelo menos uma das razões pelas quais ferramentas como o ChatGPT não são adequadas para o Departamento de Defesa no momento é a quantidade de engenharia necessária para gerar resultados adequados. Uma longa árvore de prompt é boa para amadores, mas os operadores que precisam realizar tarefas complexas precisam de uma interface que seja intuitiva e mais funcional desde o início, disse Martel.