Humaniser l'IA ne signifie pas créer un logiciel qui prétend être une personne. Cela signifie concevoir des systèmes qui prêtent attention à ce que les gens sentent et où ils sont coincés. Un outil de service à la clientèle qui reconnaît la frustration répétée de la vitesse de saisie et passe à un script plus lent et plus clair. Une application de tutorat qui demande à un étudiant de noter la confiance avant de servir le prochain problème.
L'indice annuel de l'IA de Stanford a suivi une constatation cohérente: en 2023, 52% des Américains ont déclaré à Ipsos qu'ils étaient plus préoccupés que excités par l'IA, contre 38% en 2022. Le même sondage a révélé que moins d'un tiers des produits et services de l'IA les ont le plus excités. Cette prudence est le taux de base contre lequel chaque groupe de recherche universitaire travaillant sur l'humanisation de l'IA doit concevoir.
Ce que l’humanisation signifie réellement
L'informatique affective, un terme défini par Rosalind Picard au MIT dans les années 1990, couvre les systèmes qui reconnaissent, interprètent, simulent ou répondent à l'émotion. L'IA centrée sur l'homme, l'ombrelle plus large, commence par les besoins humains et les contraintes plutôt que la capacité de modèle. Le premier demande si une machine peut lire la frustration. Le second demande s'il devrait, et ce qu'il devrait faire après la lecture. Les universités avec des programmes majeurs travaillent sur les deux, mais ils appellent rarement l'objectif de "humaniser l'IA" dans les propositions de subventions; ils l'appellent interaction humain-ordinateur, AI fiable, informatique affective ou informatique sociale.
J'ai regardé cette définition se dérouler dans un laboratoire HCI européen. Un chercheur que j'appellerai Dr. M a construit un assistant d'enseignement virtuel qui utilisait des signaux de webcam et de touches de clavier pour détecter la frustration. Dans les tests contrôlés, le modèle a atteint une précision de 77 pour cent. Lorsque l'équipe l'a allumée dans un cours réel, la précision a chuté et l'engagement a chuté. Les étudiants se sont assis tranquillement quand ils savaient que la caméra regardait; le système a lu le silence comme calme. Le Dr M a supprimé le détecteur d'émotions et l'a remplacé par un contrôle de confiance à deux questions après chaque exercice. Les taux de réalisation ont
Cet échec se trouve à l’intérieur d’une tension plus large. L’anthropomorphisme, qui fait qu’une machine ressemble ou sonne comme une personne, peut augmenter la confiance à court terme et accroître la déception à long terme lorsque le système s’effondre. Certains chercheurs universitaires distinguent entre « humain » et « centré sur l’homme » : un agent vocal qui s’excuse dans un ton naturel est humain ; un système qui dirige un appelant effrayé vers un humain après deux tentatives ratées est centré sur l’homme, même sans visage et sans nom.
L'ancre universitaire la plus visible estInstitut de Stanford pour l'IA centré sur l'homme, ouvert en 2019 avec une portée sur l'informatique, la médecine, le droit et les sciences humaines. Il finance la recherche interdisciplinaire sur les modèles fiables, la collaboration humaine-IA et les conséquences sociales de l'automatisation. Son indice annuel de l'IA est devenu l'audit du sentiment public, de la performance du modèle et du mouvement politique. Au lieu de produire un seul assistant, HAI agit comme une couche de coordination qui relie les informaticiens aux médecins, aux juristes et aux concepteurs.
Le laboratoire des médias du MIT a mis en placeGroupe informatique affectifpar des vagues successives de capteurs portatifs, de détection du stress et d'applications cliniques. C'est le laboratoire le plus responsable du vocabulaire de la physiologie de la lecture, y compris la variabilité du rythme cardiaque, la conductivité de la peau, le rythme de saisie et les changements de posture, au lieu de s'appuyer uniquement sur les visages.
de Carnegie MellonInstitut de l'interaction humain-ordinateura traité la conception d'interface comme un problème de base de l'IA depuis des années. ses chercheurs étudient comment les gens forment des modèles mentaux de systèmes et comment la conception explicative change la confiance dans les contextes cliniques et d'embauche.
Au Royaume-Uni, leCentre Leverhulme pour l’avenir de l’intelligenceCambridge aborde l'humanisation de l'IA comme un problème philosophique et réglementaire. Il demande comment les modèles linguistiques convaincants changent la confiance humaine et où la fluidité de la conversation glisse en manipulation.
La reconnaissance faciale-émotionnelle est le cas de base préventif.L’audit des nuances de genreConduit par Joy Buolamwini au MIT, les classificateurs commerciaux d'IBM, Microsoft, Face++ et d'autres fournisseurs largement utilisés ont mal classé les femmes à peau plus foncée à des taux d'erreur allant jusqu'à 34,7%, tandis que les hommes à peau plus légère ont été mal classés en dessous de 1%. L'écart n'était pas un bruit aléatoire; il a été cuit dans des données de formation et des ensembles d'évaluation. Les systèmes multimodaux plus récents font mieux en combinant la voix, le langage, le mouvement et les signaux de fréquence cardiaque avec un consentement explicite, mais l'exception n'efface pas le taux de base.
Ce que cela signifie pour votre laboratoire :Arrêtez de demander si le système se sent humain. demandez quel signal d'échec que vous essayez de réduire: questions répétées, tâches abandonnées, désengagement silencieux, escalade vers un humain, vérifications de sécurité manquées.
Dans le cas du Dr M, l'achèvement de la ligne de base oscillait entre 40 et 55 pour cent sur les modules de cours; le contrôle de confiance l'a déplacé à environ 65 à 80 pour cent. L'effet variait selon la discipline et la taille de la classe. Ce type de spread vous dit où l'intervention fonctionne et où elle a besoin d'adaptation. Si vous ne signalez qu'une moyenne, vous cachez les salles de classe où rien n'a changé.
Les systèmes qui déduisent l'émotion ou l'état mental des webcams, de l'audio, des modèles de saisie ou des journaux de localisation peuvent être considérés comme des données personnelles sensibles en vertu du règlement général sur la protection des données de l'UE et des régimes similaires. Construire dans une indication physique ou à l'écran lorsque l'inférence est active. Si un étudiant ou un patient ne peut pas voir l'indicateur et éteindre le système, le pilote ne devrait pas fonctionner.
Les programmes de doctorat en HCI, en sciences de l'information, en sciences cognitives et en apprentissage automatique comprennent désormais des études d'utilisateurs supervisées comme standard. Les candidats les plus forts peuvent lire une matrice de confusion et mener une session de réflexion, où un participant raconte ce qu'ils attendent et où ils se perdent. Les comités de recherche demandent de plus en plus les deux. Si vous êtes sur le marché du travail, l'étiquette d'IA humanisée est moins importante que de montrer que vous pouvez connecter une mesure comportementale à une décision de modèle.
Choisissez une mesure humanisante telle que le taux de frustration à l'escalade, l'achèvement du contrôle de confiance, le temps de la première réponse utile, ou le taux d'abandon à la première étape, et l'instrument avant le prochain pilote.
