Formative lance des outils basés sur l'intelligence artificielle (IA) de ChatGPT. Ces intégrations de plateformes offrent un potentiel énorme, à la fois pour repousser les limites de ce que Formative peut faire et pour redonner aux éducateurs et aux étudiants un temps précieux dans la salle de classe. Cependant, à l'adresse Formative , nous comprenons également qu'un grand pouvoir s'accompagne d'une grande responsabilité. Si vous effectuez une recherche sur Google à propos de l'IA ou de ChatGPT, vous trouverez probablement des articles sur les préjugés.

Étant donné que les outils d'IA sont "formés" à l'aide du World Wide Web, leur capacité d'apprentissage est limitée à ce qui existe en ligne. Aussi vaste que soit l'internet, une grande partie de ce que vous y trouverez reflète une démographie très limitée : principalement des personnes du monde occidental, alors qu'à travers le monde, nous avons une diversité de pensées, de races, de sexes, de systèmes de croyances et de statuts socio-économiques.

Les outils d'IA ne représentent généralement pas ces larges perspectives. Lorsque ces outils apprennent à partir d'un seul groupe démographique, leurs résultats sont faussés par des préjugés similaires à l'égard des personnes jouissant de nombreux privilèges. Par exemple, les outils de génération de photos DALL-E 2 et Stable Diffusion produisent principalement des images de personnes blanches pour la majorité des questions concernant les humains.

Cela dit, les développeurs de ces programmes - et de bien d'autres semblables - s'efforcent de diversifier leurs résultats. Reconnaître et traiter le risque de partialité - et prendre soin d'interroger attentivement les résultats de l'IA pour y déceler un contenu biaisé - permet de réduire les cas de ce type qui pourraient se présenter. Formative s'efforcetoujours de garder ces questions à l'esprit lorsqu'il s'agit de développer des utilisations de l'IA.

À cette fin, nous avons préparé cinq conseils pour vous aider à minimiser les biais lors de l'utilisation d'outils d'apprentissage intégrés à l'IA. Après tout, la meilleure façon de prévenir les problèmes est d'être proactif et d'y réfléchir à l'avance. En outre, ce travail permet également d'améliorer la qualité de l'outil lui-même.

• Soyez précis ! Choisissez vos mots avec soin. Lorsque vous demandez à l'IA de formuler une requête, ajoutez des mots spécifiques pour élargir le champ d'action de l'IA. Au lieu de demander une dissertation sur tous ceux qui vont au parc, vous pourriez demander une dissertation analytique d'exactement cinq paragraphes qui se concentre sur les diverses expériences et talents des personnes qui visitent un parc.

• Révision ! Ne partez pas du principe que la réponse d'une IA est vraie et exempte d'erreurs. Les outils d'IA ne peuvent pas toujours prendre en charge un contexte spécifique et ont souvent du mal à comprendre un ton sarcastique. Révisez toujours ce que l'IA crée pour vous : lisez-le, posez des questions et assurez-vous que rien n'est déplacé.

• Évaluez de manière critique ! Après avoir examiné le travail de l'IA, faites preuve d'esprit critique. Si vous utilisez des exemples sexospécifiques, sont-ils répartis équitablement ? Si vous recherchez des images de personnes se promenant dans un parc, l'IA a-t-elle fourni une représentation diversifiée de races, d'âges, d'expressions de genre, de tailles corporelles et d'aptitudes ?

• Ajoutez ! Si vous constatez que le travail généré par l'IA manque de diversité, en particulier lorsqu'une voix ou une personne devrait être incluse dans un sujet spécifique, ajoutez des éléments supplémentaires à ceux fournis par l'IA.

• Encouragez la diversification ! La meilleure façon de lutter contre les préjugés est d'élargir la composition démographique des personnes travaillant dans le domaine des STIM (sciences, technologies, ingénierie et mathématiques). Il peut s'agir simplement d'encourager les jeunes à s'intéresser aux STIM, mais aussi de s'engager auprès d'organisations telles que We All Code qui s'efforcent d'apporter les STIM aux communautés fréquemment négligées et historiquement exclues.

L'IA et le ChatGPT sont des outils puissants qui augmentent le pouvoir des individus et des entreprises. Nous nous réjouissons de ces avancées technologiques, mais nous savons aussi qu'en ralentissant un peu et en examinant les résultats de l'IA, nous pourrons nous assurer que nous utilisons ces outils de la manière la plus responsable qui soit.