Humanisierung von KI bedeutet nicht, Software zu erstellen, die eine Person zu sein vorgibt. Es bedeutet, Systeme zu entwerfen, die auf das achten, was die Menschen fühlen und wo sie stecken.Ein Kundenservice-Tool, das wiederholte Frustrationen von der Druckgeschwindigkeit erkennt und zu einem langsamen, klareren Skript wechseln.Eine Tutorial-Anwendung, die einen Schüler bitten, Vertrauen zu bewerten, bevor er das nächste Problem bedient.Der gemeinsame Thread ist nicht Charme; es reduziert ein messbares Fehlersignal.
Der jährliche KI-Index von Stanford hat eine konsistente Erkenntnis verfolgt: Im Jahr 2023 sagten 52 Prozent der Amerikaner Ipsos, sie seien mehr besorgt als aufgeregt über KI, gegenüber 38 Prozent im Jahr 2022. Die gleiche Umfrage fand, dass weniger als ein Drittel sagte, dass KI-Produkte und -Dienste sie hauptsächlich aufgeregt machten.
Was Humanisierung eigentlich bedeutet
Affektive Computing, ein Begriff, der von Rosalind Picard in den 1990er Jahren am MIT definiert wurde, deckt Systeme ab, die Emotionen erkennen, interpretieren, simulieren oder auf sie reagieren. Die menschlich zentrierte KI, der breitere Regenschirm, beginnt mit menschlichen Bedürfnissen und Einschränkungen anstelle von Modellfähigkeiten. Der erste fragt, ob eine Maschine Frustration lesen kann. Die zweite fragt, ob sie es sollte und was sie tun sollte, nachdem sie es gelesen hat. Die Universitäten mit großen Programmen arbeiten an beiden, aber sie nennen selten das Ziel "humanisierende KI" in Fördervorschlägen; sie nennen es Mensch-Computer-Interaktion, vertrauenswürdige KI, affektive Computing oder Social Computing.
Ich beobachtete diese Definition in einem europäischen HCI-Labor. Ein Forscher, den ich Dr. M nennen werde, baute einen virtuellen Unterrichtsassistenten, der Webcam und Tastendaten verwendet, um Frustration zu erkennen. In kontrollierten Tests erreichte das Modell eine Genauigkeit von 77 Prozent. Wenn das Team es in einem echten Kurs einschaltete, fiel die Genauigkeit und das Engagement fiel. Die Schüler saßen still und still, als sie wussten, dass die Kamera beobachtete; das System las die Stille als ruhig. Dr. M entfernte den Emotionsdetektor und ersetzte ihn nach jeder Übung durch eine Vertrauensprüfung mit zwei Fragen. Die Abschlussrate verbesserte sich um etwa ein Drittel. Die Intervention war weniger "menschlich" und nützlicher.
Der Anthropomorphismus, der eine Maschine wie eine Person aussieht oder klingt, kann das kurzfristige Vertrauen erhöhen und die langfristige Enttäuschung erhöhen, wenn das System zusammenbricht. Einige Universitätsforscher unterscheiden zwischen "menschlich" und "menschlich-zentriert": ein Stimmagent, der sich in einem Ton entschuldigt, ist natürlich menschlich; ein System, das einen gefürchteten Anrufer nach zwei gescheiterten Versuchen an einen Menschen leitet, ist menschlich-zentriert, selbst ohne Gesicht und ohne Name.
Der sichtbarste Anker der Universität istDas Stanford Institute for Human-Centered AI, eröffnet im Jahr 2019 mit einem breiten Spektrum an Informatik, Medizin, Recht und Geisteswissenschaften. Es finanziert interdisziplinäre Forschungen zu vertrauenswürdigen Modellen, menschlich-AI-Kollaboration und den sozialen Folgen der Automatisierung. Sein jährlicher AI-Index ist zu dem Feld geworden, in dem die öffentliche Stimmung, die Modellleistung und die politische Bewegung geprüft werden. Anstatt einen einzigen Assistent zu produzieren, fungiert HAI als Koordinierungsschicht, die Computerwissenschaftler mit Ärzten, Juristen und Designern verbindet.
Das Media Lab des MIT hat seineAffektive Computing Gruppedurch aufeinanderfolgende Wellen von tragbaren Sensoren, Stresserkennung und klinischen Anwendungen. Dies ist das Labor, das am meisten für das Vokabular der Lesephysiologie verantwortlich ist, einschließlich Herzfrequenzvariabilität, Hautleitfähigkeit, Typrhythmus und Haltungsschwankungen, anstatt sich auf Gesichter allein zu verlassen.
von Carnegie MellonInstitut für Mensch-Computer-Interaktionhat das Interface-Design seit Jahren als ein Kernproblem der KI behandelt. Seine Forscher untersuchen, wie Menschen mentale Modelle von Systemen bilden und wie das Erklärungsdesign das Vertrauen in klinische und Einstellungskontexte verändert.
Im Vereinigten Königreich, dieLeverhulme Zentrum für die Zukunft der IntelligenzCambridge betrachtet die Humanisierung der KI als philosophisches und regulatorisches Problem. Es stellt sich die Frage, wie überzeugende Sprachmodelle das menschliche Vertrauen verändern und wo konversationelle Fließigkeit in Manipulation verläuft.
Gesichts-Emotion-Erkennung ist der vorsichtige Basisfall.Im Jahr 2018Gender Shades PrüfungUnter der Leitung von Joy Buolamwini am MIT wurden kommerzielle Klassifikatoren von IBM, Microsoft, Face++ und anderen weit verbreiteten Anbietern dunkleren Frauen mit Fehlerraten von bis zu 34,7 Prozent falsch klassifiziert, während leichtere Männer unter 1 Prozent falsch klassifiziert wurden. Die Lücke war kein zufälliger Lärm; sie wurde in Schulungsdaten und Bewertungssets gebacken. Neuere multimodale Systeme tun es besser, indem sie Stimme, Sprache, Bewegung und Herzfrequenzsignale mit ausdrücklicher Zustimmung kombinieren, aber die Ausnahme löscht die Basisrate nicht.
Was das für Ihr Labor bedeutet:Fragen Sie, welches Fehlersignal Sie zu reduzieren versuchen: wiederholte Fragen, abgelehnte Aufgaben, leise Entbindung, Eskalation zu einem Menschen, verpasste Sicherheitsprüfungen.
Bereiche schlagen hier einzelne Zahlen. Im Fall von Dr. M schwankte die Baseline-Erfüllung zwischen 40 und 55 Prozent auf Kursmodulen; die Vertrauensprüfung bewegte sie auf ungefähr 65 bis 80 Prozent. Der Effekt variierte je nach Disziplin und Klassengröße. Diese Art von Spread sagt Ihnen, wo die Intervention funktioniert und wo sie Anpassung benötigt. Wenn Sie nur einen Durchschnitt melden, verstecken Sie die Klassenzimmer, in denen sich nichts geändert hat.
Zustimmung und Überprüfungs-Board-Genehmigung sind hier keine Papierarbeit.Systeme, die Emotionen oder geistigen Zustand von Webcams, Audio, Typmuster oder Standortprotokolle ableiten können als sensible personenbezogene Daten nach der EU-Datenschutz-Grundverordnung und ähnlichen Regime qualifizieren.Gebaut in einer physischen oder auf dem Bildschirm Anzeige, wenn Schlussfolgerung aktiv ist.Wenn ein Student oder Patient den Indikator nicht sehen und das System ausschalten kann, sollte der Pilot nicht laufen.
Die Forschungsergebnisse folgen den Zentren. Doktorandenprogramme in HCI, Informationswissenschaft, kognitive Wissenschaft und maschinelles Lernen beinhalten nun standardmäßig überwachte Benutzerstudien. Die stärksten Kandidaten können eine Verwirrungsmatrix lesen und eine Think-aloud-Sitzung durchführen, in der ein Teilnehmer erzählt, was sie erwarten und wo sie sich verlieren. Suchkomitees bitten zunehmend um beides.
Wählen Sie eine humanisierende Metrik wie Frustrationsrate bis zur Eskalation, Vertrauensprüfung, Zeit bis zur ersten nützlichen Antwort oder Verlassenheitsrate im ersten Schritt und instrumentieren Sie sie vor dem nächsten Pilot.
