Humanizar a IA não significa fazer software que finge ser uma pessoa. Significa projetar sistemas que prestem atenção ao que as pessoas sentem e onde ficam presas. Uma ferramenta de atendimento ao cliente que reconhece a frustração repetida da velocidade de digitação e muda para um script mais lento e mais claro. Um aplicativo de tutoria que pede a um aluno para avaliar a confiança antes de servir o próximo problema.
A pressão vem da inquietação pública tanto quanto promessas comerciais.O Índice de IA anual de Stanford tem rastreado uma descoberta consistente: em 2023, 52% dos americanos disseram à Ipsos que estavam mais preocupados do que entusiasmados com a IA, em comparação com 38% em 2022. A mesma pesquisa descobriu que menos de um terço disse que os produtos e serviços de IA os fizeram mais entusiasmados.
O que a humanização realmente significa
A computação afetiva, um termo definido por Rosalind Picard no MIT na década de 1990, abrange sistemas que reconhecem, interpretam, simulam ou respondem a emoções. A IA centrada no ser humano, o guarda-chuva mais amplo, começa com as necessidades e as restrições humanas, em vez da capacidade de modelo. O primeiro pergunta se uma máquina pode ler a frustração. O segundo pergunta se deve, e o que deve fazer depois de lê-lo. As universidades com programas principais trabalham em ambos, mas raramente chamam o objetivo de "humanizar a IA" em propostas de concessão; eles chamam de interação humano-computador, IA confiável, computação afetiva ou computação social.
Eu vi essa definição se desenrolar em um laboratório europeu HCI. Um pesquisador eu chamar Dr. M construiu um assistente de ensino virtual que usou webcam e sinais de toque de tecla para detectar frustração. Em testes controlados, o modelo atingiu 77 por cento de precisão. Quando a equipe a ligou em um curso real, a precisão caiu e o engajamento caiu. Os alunos ficaram quietos quando sabiam que a câmera estava assistindo; o sistema leu o silêncio como calmo. Dr. M removeu o detector de emoções e substituiu-o por um teste de confiança de duas perguntas após cada exercício. As taxas de conclusão melhoraram em cerca de um terço. A intervenção foi menos "humana" e mais útil.
O antropomorfismo, fazendo uma máquina parecer ou soar como uma pessoa, pode aumentar a confiança a curto prazo e aumentar a decepção a longo prazo quando o sistema cai. Alguns pesquisadores universitários distinguem entre "humano-como" e "humano-centrado": um agente de voz que se desculpa em um tom natural é humano-como; um sistema que dirige um chamador assustado para um humano após duas tentativas fracassadas é humano-centrado, mesmo sem rosto e sem nome.
A universidade mais conhecida é aInstituto de Stanford para a IA centrada no ser humano, inaugurado em 2019 com uma cobertura em ciência da computação, medicina, direito e humanidades. Financia pesquisas interdisciplinares sobre modelos confiáveis, colaboração humano-IA e as consequências sociais da automação. Seu Índice de IA anual tornou-se a auditoria do campo do sentimento público, desempenho do modelo e movimento político. Em vez de produzir um único assistente, o HAI atua como uma camada de coordenação que conecta cientistas da computação com médicos, estudiosos jurídicos e designers.
O Laboratório de Mídia do MIT realizou suaGrupo Computação Afetivaatravés de ondas sucessivas de sensores wearables, detecção de estresse e aplicações clínicas. Este é o laboratório mais responsável pelo vocabulário da fisiologia da leitura, incluindo variabilidade da frequência cardíaca, condutividade da pele, ritmo de digitação e mudanças de postura, em vez de depender apenas de rostos.
Sobre Carnegie MellonInstituto de Interação Humano-ComputadorOs pesquisadores estudam como as pessoas formam modelos mentais de sistemas e como o design explicativo muda a confiança em contextos clínicos e de contratação.A influência do departamento aparece na forma como os cursos de IA agora incluem estudos de usuários, não apenas pontuações de referência.
No Reino Unido, oCentro Leverhulme para o Futuro da InteligênciaA Universidade de Cambridge aborda a humanização da IA como um problema filosófico e regulatório.Ele pergunta como modelos de linguagem convincentes mudam a confiança humana e onde a fluência de conversação desliza para a manipulação.
O reconhecimento facial-emocional é o caso de base de precaução.Em 2018Auditoria de GêneroLiderado por Joy Buolamwini no MIT, os classificadores comerciais da IBM, Microsoft, Face++ e outros vendedores amplamente utilizados classificaram erroneamente as mulheres de pele mais escura com taxas de erro de até 34,7 por cento, enquanto classificaram erroneamente os homens de pele mais leve abaixo de 1 por cento. A lacuna não foi ruído aleatório; foi cozida em dados de treinamento e conjuntos de avaliação. Sistemas multimodais mais recentes fazem melhor combinando voz, linguagem, movimento e sinais de frequência cardíaca com consentimento explícito, mas a exceção não apaga a taxa de base.
O que isso significa para o seu laboratório:Pare de perguntar se o sistema se sente humano. Pergunte qual sinal de falha você está tentando reduzir: perguntas repetidas, tarefas abandonadas, desengajamento silencioso, escalada para um humano, verificações de segurança perdidas. Uma intervenção humanizadora deve mover um desses números, não apenas melhorar as pontuações de probabilidade.
No caso do Dr. M, a conclusão da linha de base variou entre 40 e 55 por cento em todos os módulos do curso; o controle de confiança o moveu para cerca de 65 a 80 por cento. O efeito variava de acordo com a disciplina e o tamanho da classe. Esse tipo de spread diz-lhe onde a intervenção funciona e onde precisa de adaptação. Se você apenas relatar uma média, você esconde as salas de aula onde nada mudou.
O consentimento e a aprovação do painel de revisão não são documentos aqui. Sistemas que inferem emoção ou estado mental de webcams, áudio, padrões de digitação ou logs de localização podem qualificar-se como dados pessoais sensíveis sob o Regulamento Geral de Proteção de Dados da UE e regimes semelhantes. Construir em uma indicação física ou na tela quando a inferência está ativa. Se um aluno ou paciente não pode ver o indicador e desligar o sistema, o piloto não deve correr.
Os programas de doutorado em HCI, ciência da informação, ciência cognitiva e aprendizado de máquina agora incluem estudos de usuário supervisionados como padrão. Os candidatos mais fortes podem ler uma matriz de confusão e executar uma sessão de pensamento, onde um participante narra o que espera e onde se perde. Comitês de pesquisa estão cada vez mais pedindo ambos. Se você está no mercado de trabalho, o rótulo de humanização da IA é menos importante do que mostrar que você pode conectar uma medida comportamental a uma decisão de modelo.
Escolha uma métrica humanizadora, como a taxa de frustração à escalada, a conclusão da verificação de confiança, o tempo para a primeira resposta útil ou a taxa de abandono no primeiro passo, e instrumente-a antes do próximo piloto.
