Apple vient d’annoncer le report du nouveau Siri dopé à l’IA générative. La nouvelle version de l’assistant vocale, décrite comme « un Siri plus personnalisé, lui donnant plus de conscience de votre contexte personnel, ainsi que la capacité d’agir pour vous dans et à travers vos applications », ne sera pas déployée avant l’année prochaine. Le géant de Cupertino indique avoir besoin de « plus de temps que prévu pour livrer ces fonctionnalités ».
En attendant, Apple Intelligence reste amputé d’un de ses atouts majeurs. Le groupe a même été contraint de décaler un produit très attendu, le HomePod avec écran taillé pour la maison connectée. Cet appareil repose en effet en grande partie sur l’évolution de Siri.
À lire aussi : Avec sa future puce cellulaire, Apple veut rattraper son retard sur la 5G ultra-rapide
Siri et la « prompt-injection »
Pour Simon Willison, le développeur britannique à l’origine de Datasette, une plateforme open source permettant d’explorer et de publier des données, Apple a pris la décision de postposer Siri 2.0 pour des raisons de sécurité. Sur son site web, le programmeur estime que le géant californien redouterait que Siri soit vulnérable aux attaques de « prompt-injection ». Ce type d’offensive consiste à manipuler un modèle d’intelligence artificielle en insérant des instructions malveillantes dans les requêtes, afin de contourner les restrictions de sécurité. En clair, un utilisateur persuade l’IA d’ignorer sa programmation pour générer des contenus, ou réaliser des actions, qui sont interdits par les développeurs. Toutes les IA sont sensibles à ce genre d’attaques. C’est pourquoi OpenAI, Google et consorts ont mis en place une foule de mécanismes de sécurité pour bloquer la « prompt-injection ».
Dans le cas de Siri, les requêtes malveillantes pourraient avoir des conséquences désastreuses pour la sécurité de l’iPhone. Comme l’explique Simon Willison, le futur assistant vocal est capable d’accéder à des informations dans les applications de l’utilisateur à sa demande. Or, « chaque fois qu’un système basé sur un modèle de langage a accès à des données privées, à des outils qu’il peut exploiter, ou est exposé à des instructions potentiellement malveillantes (comme des e-mails ou des messages texte provenant d’inconnus non fiables), il existe un risque considérable qu’un attaquant puisse détourner ces outils pour endommager ou exfiltrer les données d’un utilisateur ».
Apple aurait eu peur des vols de données
Apple aurait eu peur que Siri soit exploité pour orchestrer des vols de données. Par exemple, un attaquant pourrait insérer des instructions malveillantes dans des emails ou des messages. Si Siri les consultait, il pourrait divulguer des informations privées et envoyer les données à des tiers. Par ailleurs, les attaques pourraient manipuler la manière dont Siri se comporte. Le risque est que l’assistant vocal se mette à produire des contenus haineux ou illicites. Pour le blogueur John Gruber, spécialisé sur les sujets liés à Apple, la théorie de Simon Willison est particulièrement crédible.
Par mesure de précaution, Apple a préféré reporter le lancement de l’assistant, probablement le temps de boucher tous les vecteurs d’exploitation possibles. Pour rappel, Apple a fait de la confidentialité l’un de ses chevaux de bataille. L’entreprise veut donc éviter de ruiner sa réputation en déployant un Siri qui pourrait mettre en danger les données des utilisateurs d’iPhone. Comme toujours, la firme de Tim Cook joue la carte de la prudence.
Encore trop de bugs
Pour Mark Gurman, journaliste de Bloomberg, le nouveau Siri souffrait aussi et surtout d’une accumulation de bugs. Selon ses informations, « de nombreux employés qui testaient le nouveau Siri ont constaté que ces fonctionnalités ne fonctionnent pas encore de manière cohérente ». Apple semble rencontrer des difficultés à intégrer harmonieusement les fonctionnalités de base de Siri, comme la gestion des minuteurs, des rappels ou des commandes simples, avec les capacités avancées du nouveau Siri dopé par Apple Intelligence. Quoi qu’il en soit, il faudra attendre 2026, et la mise à jour iOS 19, pour découvrir le nouveau Siri mâtiné d’IA générative.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Simon Willison
