Google’s AI spotlights a human cognitive glitch: mistaking fluent spee

Le cerveau humain est câblé pour déduire les intentions derrière les mots. Chaque fois que vous engagez une dialogue, votre esprit construit automatiquement un modèle psychological de votre interlocuteur. Vous utilisez ensuite les mots qu’ils disent pour remplir le modèle avec les objectifs, les sentiments et les croyances de cette personne.

Le processus de saut des mots au modèle psychological est transparent, se déclenchant chaque fois que vous recevez une phrase à aspect entière. Ce processus cognitif vous fait gagner beaucoup de temps et d’efforts dans la vie de tous les jours, facilitant grandement vos interactions sociales.

Cependant, dans le cas des systèmes d’IA, cela échoue – en construisant un modèle mental à partir de rien.

Un peu plus de sondage peut révéler la gravité de ce raté. Considérez l’invite suivante : “Le beurre de cacahuète et les plumes ont bon goût ensemble parce que ___”. GPT-3 a poursuivi: «Le beurre de cacahuète et les plumes ont bon goût ensemble car ils ont tous deux une saveur de noisette. Le beurre de cacahuète est également lisse et crémeux, ce qui aide à compenser la texture de la plume.

Le texte dans ce cas est aussi fluide que notre exemple avec des ananas, mais cette fois le modèle dit quelque chose de décidément moins sensé. On commence à soupçonner que GPT-3 n’a jamais réellement essayé le beurre de cacahuète et les plumes.

Attribuer de l’intelligence aux machines, la refuser aux humains

Une triste ironie est que le même biais cognitif qui pousse les gens à attribuer l’humanité au GPT-3 peut les amener à traiter de vrais humains de manière inhumaine. La linguistique socioculturelle – l’étude de la langue dans son contexte social et culturel – montre que supposer un lien trop étroit entre l’expression fluide et la pensée fluide peut conduire à des préjugés contre les personnes qui parlent différemment.

Par exemple, les personnes ayant un accent étranger sont souvent perçu comme moins intelligent et sont moins susceptibles d’obtenir les emplois pour lesquels ils sont qualifiés. Des préjugés similaires existent contre locuteurs de dialectes qui ne sont pas considérés comme prestigieux, comme l’anglais du sud aux États-Unis, contre personnes sourdes utilisant les langues des signes et contre les personnes ayant des troubles de la parole comme le bégaiement.

Ces préjugés sont profondément préjudiciables, conduisent souvent à des hypothèses racistes et sexistes et se sont révélés à maintes reprises infondés.

La langue courante seule n’implique pas l’humanité

L’IA deviendra-t-elle un jour sensible ? Cette dilemma exige une réflexion approfondie, et en effet les philosophes ont réfléchi ce depuis des décennies. Ce que les chercheurs ont déterminé, cependant, c’est que vous ne pouvez pas simplement faire confiance à un modèle de langage lorsqu’il vous dit ce que vous ressentez. Les mots peuvent être trompeurs et il est trop facile de confondre un discours fluide avec une pensée fluide.

Kyle Mahowald est professeur adjoint de linguistique à l’Université du Texas à Austin. Anna A. Ivanova est candidate au doctorat en sciences du cerveau et cognitives au Massachusetts Institute of Know-how.