Putting principles into practice: Adobe’s approach to AI ethics

Source de l’image : your123, Adobe Stock.

Aujourd’hui, les entreprises insufflent de plus en plus d’intelligence artificielle (IA) et d’apprentissage automatique (ML) dans leurs produits pour mieux servir leurs clients. Chez Adobe, des centaines de fonctionnalités optimisées par Adobe Sensei, notre moteur d’IA aident les organisations à offrir des expériences plus personnalisées, permettant aux gens de faire passer leur créativité au niveau supérieur et permettant aux utilisateurs en quelques secondes de réaliser ce qui pourrait prendre des heures. Avec plus d’une décennie d’expérience dans l’intégration de l’IA et du machine learning dans les outils Adobe, il est clair que l’IA peut améliorer la création, la diffusion et l’amélioration des expériences numériques à grande échelle.

Il est également clair que les consommateurs d’aujourd’hui voient la valeur des technologies émergentes : selon une récente enquête d’Adobe, 70 % des consommateurs déclarent faire confiance à l’IA pour améliorer leurs expériences de marque. Mais afin d’exploiter l’IA de la manière la plus utile possible, nous devons être conscients des défis uniques que cette technologie apporte. L’IA n’est aussi bonne que les données sur lesquelles elle est formée. Et même avec de bonnes données, vous pouvez toujours vous retrouver avec une IA biaisée, qui peut involontairement discriminer ou sous-estimer et faire en sorte que les gens se sentent moins précieux.

Chez Adobe, nous nous efforçons constamment d’améliorer l’IA pour tous. C’est pourquoi nous avons créé un programme complet d’éthique de l’IA pour garantir que les technologies d’IA sont développées de manière éthique, responsable et inclusive pour nos clients et nos communautés. En tant que l’une des entreprises les plus innovantes au monde depuis près de 40 ans, Adobe prend l’impact de notre technologie aussi au sérieux que le développement de la technologie elle-même.

Plus qu’un simple mot à la mode

Il y a deux ans, lorsque nous avons décidé de créer notre propre programme d’éthique en IA, nous avons adopté une approche délibérative et réfléchie. Cela a commencé par l’établissement des principes éthiques que nous suivons lors du développement de technologies basées sur l’IA.

Nous avons créé un comité d’éthique de l’IA composé d’un groupe interfonctionnel d’employés d’Adobe aux profils de genre, ethniques et professionnels divers, des ingénieurs de recherche aux développeurs de produits en passant par les équipes juridiques, etc. Avoir un panel diversifié est important pour évaluer les innovations sous différents angles et peut aider à identifier les problèmes potentiels que l’équipe la moins diversifiée pourrait ne pas voir. Ensemble, le comité a élaboré les principes d’éthique d’Adobe AI en matière de responsabilité, de responsabilité et de transparence.

Avec imputabilité et responsabilité, nous disons qu’il ne suffit plus de fournir la meilleure technologie au monde pour créer des expériences numériques. Nous voulons nous assurer que notre technologie est conçue pour être inclusive et respecter nos clients, nos communautés et nos valeurs Adobe. Plus précisément, cela signifie développer de nouveaux systèmes et processus pour évaluer si notre IA crée des biais préjudiciables. La transparence signifie être ouvert sur la façon dont nous utilisons l’IA avec nos clients et fournir des mécanismes de retour d’information pour signaler les problèmes via nos outils ou pratiques d’IA alimentés par l’IA. Nous voulons impliquer nos clients dans le voyage et travailler avec notre communauté pour concevoir et mettre en œuvre l’IA de manière responsable.

Avoir un ensemble de principes concis, simples et applicables qui s’alignent sur les valeurs spécifiques de l’entreprise est essentiel pour les activer dans toute notre structure d’ingénierie.

Pratiquer ce que nous prêchons

Alors, à quoi ressemble exactement « Activer nos principes » ? Nous avons établi des processus standardisés, de la conception au développement en passant par le déploiement, qui comprennent la formation, les tests et un processus d’examen supervisé par un comité d’examen éthique de l’IA diversifié.

Dans le cadre de ce processus, les ingénieurs effectuent une évaluation éthique de l’IA en plusieurs parties afin de déterminer l’impact éthique potentiel des innovations assistées par l’IA. Pour la plupart des produits et fonctionnalités, l’évaluation d’impact ne montre pas de risques éthiques significatifs. Prenez, par exemple, l’outil de sélection de polices d’Adobe qui utilise l’intelligence artificielle pour aider les clients à choisir différentes polices de caractères. Après l’évaluation initiale, le produit répondait à nos critères d’approbation. Dans d’autres cas, les produits sont soumis à une nouvelle révision.

Avant son automne 2020, nous avons examiné la fonctionnalité Neural Filters de Photoshop, qui permet aux utilisateurs d’ajouter des filtres non destructifs pour créer des éléments qui n’étaient pas auparavant sur des photos à l’aide d’AI/ML. Pensez : ajouter des couleurs aux photos en noir et blanc, changer l’expression d’une personne de triste à heureuse, remplacer les coiffures, etc. Nous savions que les filtres neuronaux permettraient aux créateurs d’effectuer des modifications convaincantes et d’accélérer le processus de retouche photo. Mais nous voulions nous assurer qu’ils obtenaient des résultats qui reflétaient fidèlement les caractéristiques humaines réelles et ne perpétuaient pas de préjugés nuisibles. Grâce à un processus d’examen technique rigoureux, les filtres neuronaux reflètent et respectent les caractéristiques humaines, et ont été un énorme succès auprès des créateurs du monde entier.

La coopération est la clé

Bien que différentes entreprises puissent avoir leurs propres considérations uniques en matière d’IA, le besoin de normes éthiques en matière d’IA est universel. Alors que nous continuons à développer le programme d’éthique de l’IA d’Adobe, nous partageons ce que nous avons appris et les meilleures pratiques avec nos pairs du secteur. Nous avons contribué au code de pratique de l’industrie de l’éthique de l’IA de la Software Alliance BSA afin que d’autres entreprises puissent bénéficier du travail déjà effectué dans l’espace – et en tant que membre fondateur du Partenariat sur l’éthique de l’IA, nous collaborons avec des universitaires, des citoyens, l’industrie, et les organisations médiatiques pour répondre aux questions les plus importantes et les plus difficiles concernant l’avenir de cette technologie émergente.

Nous reconnaissons que le développement de l’IA et l’examen éthique de l’IA est un processus continu. Au fur et à mesure que nous continuons à apprendre et à grandir, nous travaillerons avec nos employés, nos clients et nos communautés pour proposer des innovations qui reflètent nos valeurs Adobe et respectent notre engagement en faveur d’un développement technologique responsable.

En savoir plus ici sur les principes d’éthique d’Adobe pour l’intelligence artificielle.

Cette histoire a été initialement publiée sur CNBC.

Leave a Comment