Chatbot-grensesnittet er bare én av uendelig mange mulige opplevelser, men det har likevel blitt standarddesignet for interaksjon med store språkmodeller. Spiller det noen rolle? Har designet av den tilsynelatende uskyldige chatboten en negativ eller positiv effekt på vår — og kundenes — evne til å tenke og handle?
Melchior Tamisier-Fayard, Theodoros Evgeniou og Anne-Laure Fayard argumenterer i en fersk HBR-artikkel for at designet av opplevelsene har betydning, og at det kan brukes aktivt til å gi positive effekter.
Artikkelen løfter fram viktigheten av å være mer bevisst på hvordan vi designer disse opplevelsene, og deler flere eksempler fra virkeligheten:
«Forskning fra ledelse, kognitiv vitenskap og menneske-maskin-interaksjon viser at brukere ofte aksepterer KI-genererte resultater ukritisk. Det fører til kognitiv avlastning, erosjon av kontekstuell ekspertise og stadig mer homogen tenkning.» — HBR-sammendrag
«Callen Anthonys etnografiske studie av investeringsbankfolk fra 2021 antydet allerede at fenomenet «black boxing» — der ansatte stolte på analytiske verktøy uten å forstå dem — kunne føre til at fagfolk mistet sin egen ekspertise.»
«KI kan svekke folks evne til å stille spørsmål ved informasjonen de mottar, og reiser bekymringer om kognitiv avlastning — eller til og med kognitiv overgivelse.»
«Mange forskere er bekymret for at KI-bruk vil føre til en dekontekstualisering av ekspertise i organisasjoner.»
«KI oppmuntrer til homogen tenkning. Flere studier viser at store språkmodeller reduserer mangfoldet av ideer, delvis fordi de har en tendens til å låse seg til den første ideen som genereres, og har en bias mot gjennomsnittet. Slik fører bruk av generativ KI til utvikling av monokulturer som mangler de mangfoldige erfaringene og perspektivene som er avgjørende for organisasjoners evne til å innovere.»
Kjøttet i artikkelen handler om hvordan vi kan tenke annerledes om måten vi designer opplevelser på, for faktisk å få ut det vi trenger av KI.
Kilde:
Design AI Systems That Actually Strengthen Human Reasoning — Harvard Business Review