Intelligence artificielle

L’intelligence artificielle fait référence à l’intelligence dont font preuve des machines, par opposition à l’intelligence naturelle dont font preuve les humains et les animaux.

On parle donc d’intelligence artificielle par exemple lorsque des machines exécutent des tâches faisant appel à l’intelligence chez l’humain ou lorsque le fonctionnement d’un système est considéré comme « intelligent » par l’homme.

L’intelligence artificielle constitue une composante majeure de la numérisation grandissante de la société et recèle ainsi un important potentiel de croissance et d’innovation.

Le concept d’intelligence artificielle comprend de nombreuses méthodes et sous-domaines de recherches, tel que celui de l’apprentissage automatique permettant aux ordinateurs d’apprendre de manière autonome afin d’établir des prévisions et prédictions dans des situations nouvelles en apprenant à partir d’expériences passées.

L’intelligence artificielle peut ainsi être utilisée dans le cadre d’opérations de profilage.

La quantité de données, et notamment de données à caractère personnel, étant déterminante pour la qualité d’une intelligence artificielle, en particulier dans le cadre de l’apprentissage automatique d’un système, l’avènement du Big Data participe à son développement et à sa qualité.

La Commission européenne promeut ainsi le développement d’une intelligence artificielle digne de confiance présentant les trois principales caractéristiques suivantes :

Licite – en assurant le respect des législations et réglementations applicables, et notamment le RGPD dès lors que les données à caractère personnel font l’objet d’un traitement ;
Ethique – en assurant l’adhésion à des principes et des valeurs éthiques correspondant à celle d’une société démocratique ;
Robuste – en limitant les préjudices involontaires, autant sur le plan technique que social et environnemental.

En effet, si l’intelligence artificielle peut être au service de l’humanité et du bien commun avec pour objectif d’améliorer le bien-être et la liberté des êtres humains, elle présente des risques importants pour les droits et libertés qu’il convient de prévenir et de réduire.

Point RGPD

« Afin d’assurer un traitement équitable et transparent à l’égard de la personne concernée, compte tenu des circonstances particulières et du contexte dans lesquels les données à caractère personnel sont traitées, le responsable du traitement devrait utiliser des procédures mathématiques ou statistiques adéquates aux fins du profilage, appliquer les mesures techniques et organisationnelles appropriées pour faire en sorte, en particulier, que les facteurs qui entraînent des erreurs dans les données à caractère personnel soient corrigés et que le risque d’erreur soit réduit au minimum, et sécuriser les données à caractère personnel d’une manière qui tienne compte des risques susceptibles de peser sur les intérêts et les droits de la personne concernée et qui prévienne, entre autres, les effets discriminatoires à l’égard des personnes physiques fondées sur la l’origine raciale ou ethnique, les opinions politiques, la religion ou les convictions, l’appartenance syndicale, le statut génétique ou l’état de santé, ou l’orientation sexuelle, ou qui se traduisent par des mesures produisant un tel effet. La prise de décision et le profilage automatisés fondés sur des catégories particulières de données à caractère personnel ne devraient être autorisés que dans des conditions spécifiques. »

Considérant 39, second paragraphe, du RGPD

Point jurisprudence

L’autorité de contrôle espagnole a pu considérer que « Il existe plusieurs études dans le cadre de la reconnaissance faciale […] qui font référence aux taux d’erreur élevés dans certaines hypothèses inhérentes à la technologie naissante et à la faible datification des systèmes d’intelligence artificielle appliqués. En ce sens, la grande demande de données pour alimenter ce type de logiciel, rend nécessaire de prendre des mesures, au moins techniques, pour éviter les transferts indus et, en particulier, les éventuels transferts internationaux qui permettront à l’avenir l’identification de la personne concernée dans des environnements et à des fins très différentes des initiales. »

Agencia Española de Protección de Datos, 23 juillet 2021, N° PS/00120/2021

Le Cabinet Bouchara vous accompagne notamment dans :

La mise en conformité de votre organisme au RGPD ;
La rédaction de politiques de protection des données (politique de confidentialité, charte informatique…) ;
La documentation de vos traitements (registre des activités de traitement, registre des violations, analyse d’impact relative à la vie privée, consultation préalable…) ;
L’obtention de certifications et l’adhésion à des codes de conduite ;
L’étude de la faisabilité juridique de la mise en œuvre d’un nouveau traitement de données à caractère personnel ;
La rédaction et transmission de vos codes de conduites à la CNIL pour approbation ;
L’analyse juridique de la conformité de vos traitements de données, y compris des transferts de données hors de l’Espace Economique Européen ;
La rédaction et la négociation de vos accords de traitements de données (DPA) ;
La rédaction de vos règles d’entreprises contraignantes (BCR) et codes de conduites ;
La formation et la sensibilisation de vos collaborateurs.