Google Lance un Programme de Récompenses pour les Bugs dans ses IA, Jusqu'à 30 000 Dollars à la Clé
Google a annoncé le lancement d'un nouveau programme mondial de récompenses, l'AI Vulnerability Reward Program, visant à identifier et corriger les failles de sécurité dans ses produits dotés de fonctions d'intelligence artificielle, tels que Gemini, Google Search et les outils de la suite Workspace. Des récompenses allant jusqu'à 30 000 dollars sont offertes pour les signalements les plus significatifs.
Un Programme de Récompenses Renforcé pour la Sécurité de l'IA
Ce programme s'inscrit dans la continuité des initiatives de "bug bounties" de Google, qui consistent à rémunérer les chercheurs en cybersécurité pour la découverte de vulnérabilités. Jason Parsons et Zak Bennett, responsables de la sécurité chez Google, ont souligné l'importance de clarifier les catégories de problèmes couverts par ces récompenses, répondant ainsi aux préoccupations des chercheurs.
Depuis octobre 2023, Google avait déjà intégré les failles d'IA dans son programme existant de chasse aux abus, distribuant 430 000 dollars à des chercheurs. Toutefois, ce nouveau cadre est distinct, avec ses propres règles, produits éligibles et grilles de rémunération.
Les Vulnérabilités les Plus Recherchées et Récompensées
Les vulnérabilités les plus recherchées incluent les "rogue actions", qui modifient l'état du compte ou les données d'une victime, et les fuites d'informations sensibles. Par exemple, une faille permettant à un assistant vocal de déverrouiller une porte sans consentement pourrait être récompensée. Les signalements seront classés selon leur impact et le type de produit concerné, avec des récompenses allant jusqu'à 20 000 dollars pour une faille critique dans des services comme Google Search ou Gemini, et des bonus pouvant porter la récompense à 30 000 dollars.
- "Rogue actions" : attaques modifiant l'état du compte ou les données d'une victime.
- Fuites d'informations sensibles : exfiltration de courriels sans consentement.
- Manipulation persistante du contexte de l'environnement IA d'une victime.
Ce qui n'est pas Couvert par le Programme
Cependant, les problèmes liés au contenu généré par l'IA, tels que les propos haineux, sont exclus du dispositif. Google estime qu'un programme de récompense n'est pas adapté à la résolution de ces questions, qui nécessitent des efforts pluridisciplinaires et un suivi à long terme. Les utilisateurs sont invités à signaler ces dérives via les outils intégrés aux produits Google.
Un Appel aux Hackers Éthiques pour Sécuriser l'IA
Alors que l'IA est au cœur de la compétition entre les géants américains de la tech, Google espère mobiliser les chercheurs du monde entier pour améliorer la sécurité de cette technologie devenue essentielle dans son écosystème. Avec ce programme, Google espère attirer les meilleurs talents en matière de cybersécurité pour renforcer la protection de ses produits alimentés par l'IA.
