Meta lève le voile sur son IA Llama 2: Un compétiteur direct de Google et OpenAI?🤔🤖

Click here to read in English

À l’occasion de la conférence Microsoft Inspire, Meta a dévoilé le 18 juillet la nouvelle génération de son grand modèle de langage, Llama. Fidèle aux principes de Meta, Llama 2 est open source (accès libre au code de programmation pour le modifier et l’utiliser) et disponible gratuitement pour la recherche.

Meta déploie des arguments de taille face à la concurrence 💪🏾

Avec son nouveau modèle de langage, Meta se place en compétiteur direct de Google et OpenAI, qui exploitent tous les deux leurs recherches en IA à des fins commerciales. La grande nouveauté est qu’il peut pour la première fois être utilisé à des fins commerciales, toujours gratuitement.

Contrairement à ce que son nom indique, OpenAI a une approche strictement propriétaire et fermée, tandis que Google, qui prônait également l’ouverture jusqu’à présent, a décidé de verrouiller ses recherches en réponse à la stratégie d’OpenAI. L’annonce risque aussi de faire de l’ombre aux nombreuses start-up qui se sont montées pour capitaliser sur le boom de l’IA générative.

Llama 2 sera disponible via Amazon Web Services (AWS), Hugging Face ainsi « d’autres fournisseurs ».

En mettant « les modèles d’IA à la disposition de tous, ils peuvent profiter à tout le monde. En donnant aux entreprises, aux startups et aux entrepreneurs et aux chercheurs l’accès à des outils développés à une échelle qu’il leur serait difficile de construire eux-mêmes, avec l’appui d’une puissance de calcul à laquelle ils n’auraient pas accès autrement, nous leur ouvrons un monde d’opportunités pour expérimenter, innover […] et en tirer des avantages économiques et sociaux ».

Llama 2 a été entraîné avec 40 % de données en plus par rapport à Llama 1 et a doublé la longueur de sa fenêtre contextuelle. Trois tailles de modèles sont disponibles : 7, 13 ou 70 milliards de paramètres. Le modèle est pré-entraîné sur 2 milliards de milliards de jetons avec une longueur contextuelle de 4096 jetons. L’affinage pour les cas d’usage « chatbot » s’est appuyé sur plus d’un million d’étiquettes.

Microsoft devient partenaire privilégié de Meta dans le domaine de l’IA générative

Parallèlement à cette annonce, Meta a tenu à mettre en avant Microsoft, « partenaire privilégié pour Llama 2 », et à développer communément leurs « efforts dans le domaine de l’IA générative ». Cette collaboration permet à Llama 2 d’être disponible dans le « catalogue de modèles d’IA Azure ».

Les développeurs utilisant Microsoft Azure pourront construire avec ces nouveaux modèles et « exploiter leurs outils cloud-native pour le filtrage de contenus et les fonctions de sécurité ». Llama 2 est également optimisé pour fonctionner localement sous Windows.

Aujourd’hui, avec ce partenariat élargi, Microsoft et Meta soutiennent une approche ouverte visant à accroître l’accès aux technologies fondamentales de l’IA au profit des entreprises du monde entier.

Pour Llama 2, la « responsabilité » comme mot d’ordre

Avec la disponibilité de Llama 2 dans une approche open source, Meta veut favoriser « la transparence et l’accessibilité », en s’engageant à « construire de manière responsable » et en fournissant « un certain nombre de ressources pour aider ceux qui utilisent Llama 2 à faire de même ».

Pour cela, Meta s’appuie sur 4 fondamentaux :

1. Les tests de sécurité : les modèles affinés ont été soumis à des tests de sécurité en interne et en externe, avec la création de messages et des tests contradictoires, notamment réalisés par des tiers, pour identifier les lacunes du modèle.
2. Le schéma de transparence : les méthodes de mise au point et d’évaluation du modèle, ainsi que les lacunes identifiées et expliquées au sein du schéma de transparence, donnent un aperçu des problèmes rencontrés et des possibles mesures de gestion.
3. Le guide d’utilisation responsable : pour aider les développeurs à utiliser Llama 2 de manière responsable et sécurisée, Meta met à disposition un guide présentant « les meilleures pratiques qui reflètent les recherches actuelles sur l’IA générative responsable ».
4. Une politique d’utilisation acceptable : Meta a mis en place une politique « interdisant certains cas d’utilisation afin de garantir que ces modèles sont utilisés de manière équitable et responsable ».

Pour conclure, Meta a également lancé un programme de partenariat universitaire autour de l’utilisation responsable de ces grands modèles de langage. La position de l’entreprise est que l’ouverture et la transparence sont les meilleurs moyens de garantir la sûreté de ces technologies, chacun pouvant collaborer à leur amélioration.

Source: Meta