Föreställ dig att du kan kontakta en expert för att få vägledning kring ett psykologiskt problem. Spelar det då någon roll om svaret du får kommer från en AI eller en människa? I detta scenario bortser vi från själva svarets innehåll (dvs kvaliteten på svaren som en AI jämfört med en erfaren kliniker kan generera). Istället fokuserar vi på dina eventuella fördomar mot avsändaren.
I en studie som vi idag publicerar i tidskriften Internet Interventions har vi undersökt om avsändaren (antingen en AI eller en människa) påverkar vår uppfattning om svarens autenticitet, professionalism och praktikalitet. Under studiens första fas ombads 140 deltagare att bedöma svarens kvalitet utan att veta om de kom från en AI eller en människa. Resultaten visade att svaren från AI initialt bedömdes högre på samtliga dimensioner jämfört med svaren från människor. Deltagarna fick dock ingen feedback om vem som var avsändare (dvs om svaret hade genererats av en AI eller en erfaren kliniker).
Sex månader senare genomfördes en uppföljning med samma deltagare, men den här gången informerades de om avsändaren. Denna vetskap ledde till en tydlig förskjutning i deras preferenser; deltagarna började favorisera de mänskliga svaren, särskilt med avseende på autenticitet.
Trots att AI-svaren i vissa avseenden objektivt sett var bättre (enligt dom själva tidigare), tenderade deltagarna att föredra svaren från mänskliga kliniker. AI:s styrka verkar idag ligga i att ge praktiska råd, men den kan ännu inte ersätta den mänskliga förmågan att erbjuda ett personligt och empatiskt stöd.
Läs artikeln i sin helhet:
Jain, G., Pareek, S., & Carlbring, P. (2024). Revealing the source: How awareness alters perceptions of AI and human-generated mental health responses. Internet Interventions, 36, 100745. doi:10.1016/j.invent.2024.100745