Pode haver algumas armadilhas no modelo de IA sob a bandeira de “código aberto”?

O advento do ChatGPT deu a mais pessoas acesso a uma poderosa inteligência artificial (IA), mas o funcionamento interno do chatbot permanece um segredo não revelado.

Como resultado, o trabalho para tornar a IA mais “aberta” parece ter recebido mais atenção nos últimos meses. **

Em maio deste ano, alguém vazou o modelo “Llama” do Meta, dando ao mundo exterior acesso ao seu código subjacente e aos pesos do modelo que determinam seu comportamento. Em julho, a Meta lançou um modelo mais poderoso, o Llama 2, que afirma ser gratuito para qualquer pessoa baixar, modificar e reutilizar. Desde então, A série de modelos Llama da Meta se tornou a base para muitas empresas, pesquisadores e amadores de IA criarem ferramentas e aplicativos com recursos semelhantes ao ChatGPT.

"Temos uma ampla gama de círculos eleitorais em todo o mundo que acreditam hoje em nossa abordagem aberta à IA... Os pesquisadores estão comprometidos em fazer pesquisas usando o modelo, e as pessoas da tecnologia, da academia e da política estão trabalhando com nós. Também vemos o benefícios do Llama e uma plataforma aberta", disse Meta no lançamento do Llama 2. Há poucos dias, a Meta também lançou outro modelo - Llama 2 Code, que é ajustado para codificação.

**Depois de décadas democratizando o acesso ao software, garantindo a transparência e melhorando a segurança, parece agora que se espera que uma abordagem de código aberto tenha um impacto semelhante na inteligência artificial. **

** Mas isso pode não ser suficiente. **

Uma equipe de pesquisa da Carnegie Mellon University, do AI Now Institute e da Signal Foundation publicou um artigo intitulado "Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI" explora as realidades de "Llama 2" e outros modelos de inteligência artificial que são de alguma forma "de código aberto". Eles disseram que pode haver algumas "pegadinhas" no modelo sob a bandeira de "código aberto".

De acordo com o jornal, **Embora o Llama 2 seja gratuito para download, modificação e implantação, ele não é coberto pelas licenças tradicionais de código aberto. ** A licença da Meta proíbe o uso do Llama 2 para treinar outros modelos de linguagem, e uma licença especial é necessária se um desenvolvedor implantar o Llama 2 em um aplicativo ou serviço com mais de 700 milhões de usuários diários.

**Esse nível de controle significa que o Llama 2 pode trazer benefícios técnicos e estratégicos significativos para a Meta - por exemplo, a Meta pode se beneficiar de ajustes benéficos quando empresas externas usam o modelo Llama 2 em suas próprias aplicações. **

Modelos lançados sob licenças comuns de código aberto, como o GPT Neo da organização sem fins lucrativos EleutherAI, são mais abertos, disseram os pesquisadores. Mas estes projetos têm dificuldade em competir com modelos lançados por empresas maiores.

Primeiro, os dados necessários para treinar modelos avançados costumam ser confidenciais; Em segundo lugar, as estruturas de software necessárias para construir esses modelos são geralmente controladas por grandes empresas, e as duas estruturas de software mais populares são TensorFlow e Pytorch, respectivamente Mantido pelo Google e Meta; Além disso, a capacidade computacional necessária para treinar modelos de inteligência artificial em grande escala está além do alcance de desenvolvedores ou empresas comuns. Geralmente, são necessárias dezenas de milhões ou centenas de milhões de dólares para uma sessão de treinamento ; *Finalmente * , a mão de obra necessária para refinar e melhorar esses modelos também é principalmente um recurso que só as grandes empresas podem obter.

Portanto, a equipa de investigação acredita que a julgar pelas tendências atuais, esta uma das tecnologias mais importantes em décadas pode acabar por enriquecer e melhorar as capacidades de apenas algumas empresas, incluindo OpenAI, Microsoft, Meta e Google. Se a inteligência artificial for realmente uma tecnologia que pode mudar o mundo, e se puder ser aplicada e popularizada de forma mais ampla, poderá trazer os maiores benefícios para o mundo inteiro.

“Nossa análise mostra que (este nível de) código aberto não apenas não ‘democratizará’ a IA”, disse Meredith Whittaker, uma das autoras do artigo, à Wired: “Na verdade, empresas e instituições podem. consolidar e expandir a concentração de poder."

Além disso,** mesmo os sistemas de IA “abertos” mais abertos não garantirão, por si só, o acesso democrático ou uma concorrência significativa na IA, nem a abertura por si só resolverá problemas de supervisão e censura. **

Whittaker acrescentou que o código aberto deve ser uma consideração importante nas tão necessárias regulamentações de IA: "Nós realmente precisamos de alternativas significativas para tecnologias definidas e dominadas por grandes monopólios - especialmente quando os sistemas de IA Quando integrados em áreas altamente sensíveis de impacto público específico, como saúde , finanças, educação, etc. Criar as condições para tornar possível essa substituição é um projeto que pode coexistir ou até mesmo ser apoiado por movimentos regulatórios como a reforma antitruste.”

A equipa de investigação afirma também que, além de equilibrar o poder das grandes empresas, tornar a IA mais aberta pode ser crucial para desbloquear o melhor potencial da tecnologia – evitando ao mesmo tempo as suas piores tendências. **

** Se quisermos compreender até que ponto os modelos de IA de última geração são capazes e reduzir os riscos que a implantação e o desenvolvimento futuro podem implicar, é melhor disponibilizar estes modelos a cientistas de todo o mundo. **

Assim como a “segurança através da obscuridade” nunca pode garantir verdadeiramente que o código seja executado com segurança, proteger o funcionamento dos poderosos modelos de IA não é necessariamente a coisa mais inteligente a fazer.

Link de referência: