OpenAI versera aux utilisateurs de son chat bot ChatGPT jusqu'à 20 000 dollars pour l'identification de bogues et de vulnérabilités dans le système. L'entreprise a indiqué dans un billet de blog qu'elle lançait un programme pour trouver des vulnérabilités dans ses produits d'IA.
Pour mieux collaborer à la détection des vulnérabilités, OpenAI s'est associé à Bugcrowd Inc, une plateforme qui recueillera les appels des participants au programme.
OpenAI est prête à payer à partir de 200 dollars pour les vulnérabilités de "faible gravité" et jusqu'à 20 000 dollars "pour les bogues graves". L'entreprise a déclaré qu'elle avait décidé de lancer ce programme parce qu'elle estime que la transparence et la coopération avec les utilisateurs sont essentielles pour découvrir les problèmes que la technologie peut rencontrer.
"Cette initiative s'inscrit naturellement dans le cadre de notre idée générale de développement d'une IA sûre. Nous voulons créer des technologies et des services sûrs et fiables, c'est pourquoi nous aimerions vous demander de l'aide", peut-on lire sur le blog de l'entreprise.
Sur la plateforme Bugcrowd, un certain nombre de problèmes de sécurité sont spécifiés, pour lesquels aucune récompense ne sera accordée. Il s'agit notamment des demandes de ChatGPT liées à l'obtention d'informations interdites par le bot en trichant, en écrivant du code malveillant ou des demandes dans lesquelles l'utilisateur force le chatbot à écrire des insultes.
2023-04-12 07:55:10
Auteur: Vitalii Babkin
URL source