Lors d’une interview accordée à CBS, Sundar Pichai, PDG de Google, est revenu sur les raisons de la prudence du groupe en matière d’intelligence artificielle. Ces dernières années, le géant de Mountain View a en effet retardé plusieurs projets relatifs à l’IA par excès de prudence. Des modèles linguistiques ont notamment été repoussés, Google évoquant des risques en matière de sécurité et d’image. C’est en partie à cause de cette frilosité qu’OpenAI et Microsoft ont pris la tête de la course à l’intelligence artificielle, devançant Google. Le titan avait pourtant toutes les cartes en main pour s’imposer en pionnier.
« Nous devons tous être responsables à chaque étape du chemin », déclare Sundar Pichai.
Tout en cherchant à se montrer plus audacieux pour répondre à ses rivaux, Google a appliqué une approche similaire lors du lancement de Bard. Plutôt que de déployer directement son chatbot dans le monde entier, la firme a misé sur une disponibilité progressive, à commencer par les États-Unis et le Royaume-Uni.
« Nous voulons développer des couches de sécurité plus robustes avant de construire et déployer des modèles plus performants », explique le dirigeant de Google.
Dans un premier temps, Google s’est appuyé sur le modèle LaMDA (pour Language Model for Dialogue Applications). Progressivement, la société a ajouté des fonctionnalités provenant d’un modèle linguistique plus performant, à savoir Pathways Language Model (PaLM). Celui-ci compte 540 milliards de paramètres, contre seulement 137 milliards pour LaMDA.
À lire aussi : Google prépare un nouveau moteur de recherche pour répondre à Microsoft Bing
Le mystère des « propriétés émergentes »
D’après Sundar Pichai, il arrive que les intelligences artificielles génératives se comportent d’une manière inattendue. C’est pourquoi il est extrêmement important d’avancer avec prudence, en surveillant de près les réactions des IA.
Selon les constatations de Google, des modèles de langage peuvent parfois s’enseigner de nouvelles compétences en toute autonomie, à l’insu des programmeurs. L’entreprise a intitulé ce mystère les « propriétés émergentes ».
Par exemple, une IA expérimentale, mise au point par Google, est parvenue à apprendre en toute indépendance « la langue du Bangladesh, alors qu’elle n’a pas été formée à la connaître ». Présent aux côtés de Sundar Pichai, James Manyika, vice-président principal de la technologie chez Google, explique qu’il a suffi de quelques requêtes pour qu’une IA s’habitue à une langue inconnue :
« Nous avons découvert qu’avec très peu de requêtes en bengali, il peut maintenant traduire tout le bengali ».
Une boîte noire… comme le cerveau humain
Les propriétés émergentes découlent du fonctionnement même de l’apprentissage automatique, qui consiste à ce qu’une machine apprenne elle-même, sur base des données disponibles, sans une intervention humaine. Une fois que cette logique est poussée à l’extrême, il n’est pas si étonnant qu’une IA soit parvenue à apprendre une langue sans l’aide d’un programmeur.
Néanmoins, Sundar Pichai précise que la manière précise dont l’IA a découvert le bengali échappe encore aux ingénieurs de Google. Le PDG admet que ces types d’étrangetés sont encore une « boîte noire », c’est-à-dire un système dont les mécanismes internes sont inconnus :
« Vous savez, vous ne comprenez pas tout à fait. Et vous ne pouvez pas tout à fait dire pourquoi il a dit cela, ou pourquoi il s’est trompé. Nous avons quelques idées, et notre capacité à comprendre s’améliore avec le temps ».
Désireux d’aborder l’IA avec « humilité », le patron de Google rappelle que, de la même manière, « nous ne comprenons pas parfaitement comment fonctionne un esprit humain ».
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : CBS
De manière inattendue il y a un contresens dans la première phrase du paragraphe propriété émergente et non pas attendue je vous laisse rectifier. Axel.
En effet ! Merci pour la vigilance ! C’est corrigé
Vous faites de la désinformation, cela a été debunké. Le modèle de base contenait déjà des données d’entraînement dans la langue en question.
Bonsoir,
Il est étonnant s’agissant d’une langue très identifiable que des requêtes analytiques dans le système n’aient pas mis en évidence des recherches assimilées nées des quelques questions en bengali.
Il semble que pour des raisons de validité les machines de deep learning effectuent des recherches de cohérence qui ont pu fournir les bases de compréhension plus larges de cette langue.
La théorie, c’est quand on sait tout et que rien ne fonctionne. La pratique, c’est quand tout fonctionne et que personne ne sait pourquoi. Ici, nous avons réuni théorie et pratique : Rien ne fonctionne… et personne ne sait pourquoi !
Bon, en fait ça craint parce que ça fonctionne trop bien en fait, et ils ne savent pas pourquoi…
Et ça en est où de chaosgpt..?
Et la singularité, c’est un mythe ? Ou pour très bientôt..?
C’est vrai qu’on s’ennuyait…
Google ou comment la stratégie Russe peut toucher tous les losers…
Comme ils viennent de se prendre une claque avec OpenAI (et Bard est totalement nul, testez-le, un simple VPN vous permet de vous situer aux US et de tester… génial leur sens de la sécurité au passage), ils veulent faire une pause… Quand les mecs perdent d’un seul coup il leur vient des idées de pauses, de trêves, de traités de paix, d’éthique, d’amour de son prochain… Tout en continuant par derrière à mettre les bouchées doubles.
Google est écœurant dans ses prises de position sur l’IA.
Bien sûr ils ont des IA qui apprennent toutes seules le bengali (avec un patron qui le parle c’est pas si bizarre et la moitié des salariés aussi) mais en revanche Bard a du mal même avec une seule langue (l’anglais). Tant de géniales inventions qu’ils possèdent et qui font des merveilles et qui, pas de chance, ne sont pas dans le produit qu’il propose…
Ils ont le seum c’est tout. Ca se comprend, mais il y avait d’autres façons plus classes de le faire savoir qu’en jouant les pères la morale mais qui a dans ses cartons des trucs incroyables. C’est juste que par éthique il ne veut pas les faire voir. Et la marmotte…
Losers pathétiques…
Je trouve inquiétant, de ne pas savoir comment une IA est capable d’interagir dans une nouvelle fonction. Sans vouloir jouer à se faire peur, ce domaine technologique devrait être sous la coupe d’une entité de surveillance internationale.
Cet article est faux, Bard a bien été entrainé sur du bengali.