Mänskligare AI-röst gör oss mer misstänksamma mot varandra

Forskning vid Göteborgs universitet visar att system med avancerade AI-system som får alltmer människoliknande drag kan påverka vårt förtroende för de personer vi pratar med. Professorerna Jonas Ivarsson och Oskar Lindwall har undersökt hur människor tolkar och förhåller sig till beteenden där en av parterna möjligen kan vara en röstbaserad interaktiv tjänst. Olika typer av inspelade samtal har studerats, där ibland ett AI-system utgör den ena parten.

I ett exempel ringer en förmodad bedragare upp vad han tror är en äldre man, men blir i själva verket vidarekopplad och får prata med ett datorsystem som kommunicerar genom förinspelade loopar. Personen försöker länge och väl genomföra bedrägeriförsöket och lyssnar tålmodigt på ”mannens” något virriga och repetitiva berättelser.

I studien upptäckte forskarna att vissa beteenden i samtal mellan två människor tolkades som tecken på att en av dem i själva verket var en robot. Pauser i samtalet tolkades som att ”AI: n” tog tid på sig att processa det som sagts och i de fall den som ringde upp var alltför rakt på sak, uppfattades beteendet som socialt inkompetent, vilket ansågs avslöja att det rörde sig om en AI. Forskarna ställer sig frågande till att ett AI-system ska ha den typen av röster som är så mänskligt färgade.

Källa: https://link.springer.com/article/10.1007/s10606-023-09465-8#Abs1

Bild: Depositphotos