Deux des meilleurs experts en intelligence artificielle de Google quittent leur emploi pour créer une entreprise. Sakana AI peut-elle prendre une nouvelle direction en matière d'intelligence artificielle ?

Source de l'image : générée par l'IA illimitée

Basé à Tokyo, Sakana AI est un laboratoire de recherche émergent sur l'intelligence artificielle qui s'efforce de s'inspirer du monde naturel pour créer la prochaine génération d'intelligence artificielle. Fondée par deux brillants experts en IA, Llion Jones et David Ha, qui travaillaient auparavant chez Google, la startup a jeté les bases du boom actuel de l'IA.

Llion Jones est l'un des auteurs du célèbre article "Attention Is All You Need" publié par Google en 2017, qui a introduit une architecture d'IA appelée Transformer. Les transformateurs sont désormais au cœur des générateurs d'images IA pour les technologies populaires telles que ChatGPT et Midjourney. Après près de 12 ans chez Google, Jones a récemment quitté le géant de la technologie pour fonder et occuper le poste de directeur technique de la startup AI Sakana AI à Tokyo, au Japon. Jones a déclaré que bien qu'il n'ait aucune mauvaise volonté envers Google, il se rend compte que la taille de l'entreprise l'empêche de faire le travail qu'il veut faire.

David Ha est le PDG de l'entreprise. Il a auparavant été à la tête de l'équipe de recherche sur l'intelligence artificielle de Google au Japon et a dirigé les recherches de la start-up d'intelligence artificielle Stability AI, la société de développement du modèle Stable Diffusion. L'objectif du duo est de développer de nouveaux modèles d'intelligence artificielle basés sur des principes qu'ils glanent en observant les systèmes naturels.

À la recherche d'une nouvelle direction de l'IA du point de vue de la nature

"Nous cherchons des moyens de nous inspirer de la nature pour voir si nous pouvons trouver une autre façon de faire les choses sans faire de modèle géant. - Llion Jones"

Le nom Sakana est tiré du mot japonais "さかな" (sa-ka-na), qui signifie "poisson" et symbolise leur esprit. Son but est d'évoquer des images de bancs de poissons composés d'individus qui se coordonnent pour former un tout cohérent. Les deux fondateurs estiment que les modèles d'IA d'aujourd'hui sont trop rigides et fragiles, conçus comme des bâtiments et incapables de s'adapter à l'environnement. Ils s'inspirent de l'intelligence collective de la nature, de principes tels que l'évolution et l'émergence, pour construire une IA plus flexible et plus réactive.

Cette approche pourrait résoudre des problèmes tels que les coûts élevés et les risques de sécurité potentiels auxquels sont confrontés les modèles d'IA à grande échelle actuels. Les deux fondateurs veulent être les pionniers de moyens plus intelligents et plus efficaces d'aller au-delà de la simple mise à l'échelle des modèles Transformer.

Bien que les détails n'aient pas été révélés, ils soulèvent la possibilité d'utiliser des modèles plus petits interconnectés qui peuvent coopérer les uns avec les autres pour résoudre des problèmes comme un banc de poissons ou d'oiseaux. Cette approche peut être plus sûre et plus durable que les modèles centralisés qui contiennent de grandes quantités de données.

*Ne prenez pas OpenAI "dans vos yeux" ? *

Jones et Ha ont eu des mots peu flatteurs pour OpenAI, qui a introduit le concept d'IA générative dans le courant dominant mais a levé des milliards de dollars de financement de Microsoft. Ha l'a décrit comme "devenant si gros et un peu bureaucratique", un peu comme les équipes de Google.

Jones a déclaré qu'il ne pensait pas qu'OpenAI soit si innovant. Deux des plus grands succès d'OpenAI, ChatGPT et le service DALL-E qui crée des images à partir de quelques phrases de texte, la startup a pris des recherches qu'il a faites chez Google et les a appliquées à grande échelle, s'améliorant en cours de route, a-t-il dit, mais a retardé le partage des progrès avec la communauté. Bien qu'OpenAI n'ait publié aucune de ces technologies sous une licence open source, il a publié des articles sur certains des systèmes sous-jacents.

Silicon Valley ? Tokyo ? Les deux ont choisi ce dernier

Le choix de Tokyo comme base reflète l'insistance de Sakana sur les vues non conventionnelles. Au milieu d'une concurrence féroce pour les meilleurs talents du monde, d'autres anciens experts de haut niveau de Google AI se sont réunis pour démarrer des startups dans des hubs mondiaux tels que la Silicon Valley. Au lieu de cela, ils ont choisi une voie différente, estimant que Tokyo a des avantages clés.

Ils soulignent la solide infrastructure technologique de Tokyo, sa main-d'œuvre instruite et son environnement de recherche florissant. La ville attire des talents internationaux tout en offrant des opportunités d'adapter des modèles aux besoins non occidentaux. Les deux fondateurs notent :

"La formation de données et de mécanismes autour de modèles qui fonctionnent bien dans d'autres cultures facilitera la prochaine percée."

Sakana entre dans un domaine surpeuplé, en concurrence avec des géants de la technologie tels que Google et Microsoft, ainsi qu'avec d'autres startups d'intelligence artificielle. Cependant, leur approche unique et leur réputation dans le domaine de l'intelligence artificielle leur ont attiré l'attention.

Bien que Sakana AI n'ait pas divulgué publiquement de projets ou de produits spécifiques à ses débuts, son objectif est de créer des modèles d'intelligence artificielle plus flexibles et efficaces grâce à l'intelligence collective et à l'inspiration naturelle. Leurs efforts de recherche peuvent impliquer l'utilisation d'approches innovantes dans des domaines tels que les modèles distribués, l'intelligence en essaim et les algorithmes adaptatifs.

La création de Sakana AI marque la recherche continue de nouvelles idées et méthodes dans le domaine de l'intelligence artificielle pour mieux répondre aux limites des modèles existants. Leurs efforts peuvent conduire à de nouvelles percées et avancées dans le domaine de l'intelligence artificielle, créant pour nous des systèmes d'IA plus intelligents et plus adaptables.

Les références: