Il y a beaucoup de promesses et de potentiel dans l’intelligence artificielle (IA), mais si ces technologies sont construites et formées par des humains, sont-elles capables de biais ?

Absolument, déclare William Wang, titulaire de la chaire Duncan et Suzanne Mellichamp en intelligence artificielle et conceptions à l’UC Santa Barbara, qui donnera la conférence virtuelle «Qu’est-ce que l’IA responsable», à 16 heures le mardi 25 janvier, dans le cadre de la bibliothèque de l’UCSB Série de conférenciers Pacific Views (inscrivez-vous ici).

« Le principal défi pour la construction de systèmes d’IA et d’apprentissage automatique est que lorsqu’un tel système est formé sur des ensembles de données avec des échantillons limités de l’histoire, ils peuvent acquérir des connaissances à partir des variables protégées (par exemple, le sexe, la race, le revenu, etc.), et ils sont susceptibles de produire des résultats biaisés », a déclaré Wang, également directeur du Center for Responsible Machine Learning de l’UC Santa Barbara.

« Parfois, ces biais peuvent conduire au phénomène de ‘riche qui s’enrichit’ après le déploiement des systèmes d’IA », a-t-il ajouté. « C’est pourquoi, en plus de la précision, il est important de mener des recherches sur des systèmes d’IA équitables et responsables, y compris la définition de l’équité, la mesure, la détection et l’atténuation des biais dans les systèmes d’IA. »

L’examen du sujet par Wang sert d’événement de lancement pour UCSB Reads 2022, le programme de lecture à l’échelle du campus et de la communauté géré par la bibliothèque de l’UCSB. Leur nouvelle saison est centrée sur « Exhalation » de Ted Chiang, un recueil de nouvelles qui aborde des questions essentielles sur l’interaction humaine et informatique, y compris l’utilisation de l’intelligence artificielle.

Des exemplaires de « Exhalation » seront distribués gratuitement aux étudiants (jusqu’à épuisement des stocks) le mardi 1er février à l’extérieur de l’entrée West Paseo de la bibliothèque. Les autres événements annoncés jusqu’à présent incluent des lectures en direct du livre sur KCSB, une discussion sur le livre de la faculté animée par le physicien et professeur David Weld et un atelier d’écriture de science-fiction. Tout culmine le 10 mai avec une conférence gratuite de Ted Chiang à Campbell Hall.

Mais d’abord : William Wang, professeur agrégé d’informatique et co-directeur du Natural Language Processing Group.

« Dans cette conférence, mon espoir est de résumer les principales avancées des technologies d’intelligence artificielle au cours de la dernière décennie et de partager comment l’IA peut nous apporter un avenir passionnant », a-t-il noté. « Je décrirai également les principaux défis de l’IA : comment devrions-nous envisager la recherche et le développement de systèmes d’IA responsables, qui non seulement optimisent leurs performances de précision, mais offrent également une vision centrée sur l’humain pour prendre en compte l’équité, la partialité, la transparence et l’efficacité énergétique ? des systèmes d’IA.

« Comment construire des modèles d’IA transparents ? Comment écrivons-nous des descriptions de systèmes d’IA qui respectent les directives de transparence divulgatrice ? Comment considérons-nous l’efficacité énergétique lors de la construction de modèles d’IA ? » Il a demandé. « L’avenir de l’IA est prometteur, mais ce sont tous des aspects clés d’une IA responsable que nous devons aborder. »

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.