Utilisation de l'intelligence artificielle générative, attention à la confidentialité des données

Depuis quelques mois, l'utilisation de l'intelligence artificielle (IA) a explosé, grâce à des outils de génération de texte comme ChatGPT ou d'images comme DALL-E.

La qualité des textes et des images générés est souvent impressionnante. Cependant, il n'est pas rare que ces outils souffrent d'hallucinations, à savoir fournissent des résultats totalement inadaptés à la demande envoyée (invention d'informations fictives). Par conséquent, leur fiabilité doit en permanence être remise en question.

Un autre danger concerne la confidentialité des données : par exemple, vous pouvez utiliser l'IA afin d'améliorer la rédaction d'un texte, le résumer, le traduire, etc. Vous devez par conséquent fournir un texte de base ou des images qui pourraient contenir des informations confidentielles (noms de personnes, secret d'affaires). Or, ces services d'IA sont en général hébergés dans le cloud et à l'étranger et vous n'avez aucune idée de ce qu'il adviendra des demandes, textes et images que vous leur soumettez : seront-elles stockées par ces services à des fins d'entraînement, seront-elles revendues à des entreprises de marketing pour vous envoyer de la publicité ciblée ?

Nous ne pouvons que vous encourager à garder un esprit critique face à ces services et à vous abstenir d'envoyer des données confidentielles : anonymisez tout ce que vous envoyez, à moins que vous n'ayez l'assurance que leur traitement est local ou que le service ne les exploite pas pour d'autres buts que de vous fournir une réponse.