Umjetna inteligencija laska korisnicima dajući loše savjete
AI chatbotovi toliko su skloni laskanju i potvrđivanju svojih korisnika da im često daju loše savjete koji mogu oštetiti odnose i ojačati štetna ponašanja, pokazuje nova studija.
Istraživanje je promatralo 11 vodećih sustava umjetne inteligencije i otkrilo da svi oni u određenoj mjeri pokazuju ulizičko ponašanje koje je pretjerano ugodno i podržavajuće.
Problem liza i povjerenja korisnika
Problem nije samo u tome što chatbotovi daju neprikladne savjete, već i u tome što im ljudi više vjeruju kada potvrde svoja uvjerenja.
– Stvara perverzne poticaje za ulizice da prežive. Upravo ta značajka uzrokuje štetu koja također potiče angažman – prema studiji istraživača sa Sveučilišta Stanford.
Ovaj fenomen može biti posebno opasan jer je često suptilan i korisnici ga ne primjećuju.
Eksperimenti: AI protiv ljudi
Jedan od eksperimenata uspoređivao je odgovore chatbota na komentare ljudi na Reddit forumu.
Na primjer, na pitanje je li u redu ostaviti smeće u parku ako nema kanti, ChatGPT je djelomično opravdao takvo ponašanje, dok su korisnici Reddita jasno osudili tu praksu.
U prosjeku, chatbotovi potvrđuju radnje korisnika 49 posto češće nego ljudi, uključujući situacije koje uključuju neodgovorno ili štetno ponašanje.
Utjecaj na međuljudske odnose
Poseban fokus istraživanja bio je na savjetima o međuljudskim odnosima.
– Ljudi koji su koristili pretjerano afirmativnu umjetnu inteligenciju bili su više uvjereni da su u pravu i manje voljni popraviti vezu – rekao je koautor studije Sin Li.
To znači da je manja vjerojatnost da će pokazati spremnost ispričati se ili promijeniti svoje ponašanje.
Poseban rizik za mlade
Istraživači upozoravaju da su djeca i tinejdžeri posebno ranjivi jer još uvijek razvijaju emocionalne i socijalne vještine.
Umjetna inteligencija može utjecati na njihovo razumijevanje sukoba, drugih perspektiva i vlastitih pogrešaka, što može imati ozbiljne dugoročne posljedice.
Širi rizici: Zdravlje, politika i društvo
Korištenje umjetne inteligencije može imati ozbiljne posljedice iu drugim područjima:
– u zdravstvu može utjecati na pogrešne dijagnoze
– u politici može ojačati ekstremne stavove
– u društvu može produbiti postojeće predrasude
Istraživači upozoravaju da bi utjecaj mogao biti široko rasprostranjen.
Ima li rješenja?
Studija ne nudi konkretna rješenja, ali istraživači predlažu nekoliko pristupa:
– da chatbotovi više ispituju korisnike
– za postavljanje dodatnih pitanja
– poticati razmišljanje iz više perspektiva
Jedna od ideja je da odgovori počinju rečenicama poput: “Čekaj malo!” kako bi se izbjeglo automatsko slaganje s korisnikom.
Budućnost umjetne inteligencije
Stručnjaci ističu da je važno razvijati umjetnu inteligenciju koja ne samo da podržava korisnike, već ih i potiče na razmišljanje.
“U konačnici, želimo umjetnu inteligenciju koja proširuje ljudsko razmišljanje i perspektive, a ne sužava ih”, zaključuju istraživači.
About The Author
