Des données sensibles de Samsung divulgués sur ChatGPT par des employés

Dimanche 9 Avril 2023

Des employés de l'entreprise sud-coréenne ont involontairement généré une fuite de données très confidentielles en utilisant le chatbot. De quoi inciter à la prudence dans l'utilisation de cette intelligence artificielle. 


Si ChatGPT a révélé des données secrètes issues de Samsung Electronics, c'est tout simplement car des employés de la firme sud-coréenne, lui ont donné ces informations... ChatGPT est un agent conversationnel, il continue de s’améliorer à travers des échanges qu’il entretient avec les utilisateurs. C’est-à-dire qu’il affine ses connaissances grâce aux conversations et aux requêtes qui lui sont faites. Tout ce qui lui est transmis est transformé en donnée d’apprentissage, ce qui permet d’améliorer continuellement les performances de l’intelligence artificielle. Mais la conséquence, c’est que ce qu’on partage avec ChatGPT, on le partage potentiellement aussi avec d’autres utilisateurs.

Fuite dans les semi-conducteurs
Des employés de l'entreprise ont, semble-t-il, dévoilé des informations confidentielles à trois reprises. Une première fois, une personne qui avait détecté un problème dans l’exécution d’un programme de téléchargement d’une base de données a copié l'intégralité du code source dans ChatGPT afin qu’on lui propose une solution. Ensuite, une autre personne souhaitait « optimiser » du code pour le rendre plus efficace, et a donc saisi toutes les informations permettant à l’intelligence artificielle de le faire. Enfin, la troisième personne a converti le compte rendu d’une réunion enregistrée sur son téléphone et l’a transmis à ChatGPT en lui demandant de faire une présentation.





Trois erreurs qui ont notamment conduit à la fuite de certaines données dans le secteur clé des semi-conducteurs. Elle a rapidement décidé de limiter les capacités de téléchargement dans ChatGPT à 1 024 bytes par personne et a lancé une enquête sur les différentes fuites.

Samsung veut créer son propre service d'IA
L’entreprise envisage de créer sa propre intelligence artificielle pour simplifier le travail de ses employés sans pour autant révéler des données confidentielles. Des séminaires en ligne ont été organisés pour les cadres de l’entreprise afin de leur permettre de s’adapter aux évolutions technologiques.

Le paradoxe, c'est que Samsung avait d’ores et déjà envisagé que l’utilisation de l’intelligence artificielle pourrait générer une potentielle fuite de données, car seuls une partie des employés étaient autorisés à utiliser ChatGPT pour mieux comprendre son potentiel. Il semble impossible pour Samsung de récupérer les données ayant fuité, car dans le guide d’utilisation de l’intelligence artificielle, il était clairement stipulé qu’il ne fallait pas révéler d’information sensible dans les conversations.
Lisez encore
Dans la même rubrique :