Algoritam sluša

Postoji rečenica koju većina ljudi u Njemačkoj na ovaj ili onaj način zna sa telefonskih linija: „Da bismo provjerili i poboljšali kvalitet naše usluge, željeli bismo da snimimo razgovor“.

- pročitajte još:Stručnjaci zahtijevaju pauzu u razvoju vještačke inteligencije

Ono što mnogi pozivaoci ne znaju: Pojedinačni pozivni centri koriste vještačku inteligenciju (AI) da procijene njihove emocije tokom razgovora – na osnovu njihovog glasa.

Jedan od najvećih svjetskih operatera kol-centara (call-center), Teleperformance, ima AI softver koji je, između ostalog, namijenjen prepoznavanju emocija pozivalaca i agenata kol-centra. Koliko brzo govore? Da li zvuče uzbuđeno ili uznemireno? Da li kupci prijete raskidom ugovora ili tužbama? AI bi trebalo da sve ovo procijeni, kako pokazuju interni dokumenti kompanije.

U Njemačkoj, skoro dvije hiljade agenata radi za Teleperformance, takođe i u ime dobavljača energije. Dokumenti pokazuju da korisnici Teleperformancea mogu da koriste softver za svoje telefonske linije na njemačkom jeziku. Nejasno je koliko razgovora kompanija analizira sa AI softverom. Na upit BR-A kompanija nije htjela to da prokomentariše.

Analiziranje emocija kupaca u realnom vremenu

Kol-centar kompanija 11880, s druge strane, otvoreno govori o upotrebi AI za prepoznavanje emocija. Klijenti 11880 uključuju stambena udruženja, kuće za prodaju automobila i pružaoce usluga iznajmljivanja električnih skutera. Kompanija za njih rješava žalbe kupaca.

AI analizira melodiju govora, intenzitet, ritam i zvuk u realnom vremenu. Ukupno više od 6.000 glasovnih parametara se analizira kako bi se izračunale emocije, kaže Jern Hausman (Jörn Hausmann), menadžer u 11880. Softver je namijenjen prepoznavanju osjećanja kao što su bijes, ljutnja, ali i ljubaznost.

Hausman naglašava da je AI softver za analizu emocija podrška agentima; njegovu upotrebu odobrava radnički savjet i provjerava službenik za zaštitu podataka.

Tokom razgovora koji su u toku, agenti kol-centra vide smajlije na svom ekranu koji ukazuju na raspoloženje sagovornika. Jedan smajli pokazuje emocije pozivaoca, drugi pokazuje emocije agenta pozivnog centra. Njihove emocije se takođe kontinuirano prate i procjenjuju. Ovo ima za cilj da osigura da agenti ostanu ljubazni i da, u najboljem slučaju, kupci budu zadovoljniji. Ovaj pristup nije bez kontroverzi.

"Pravno problematično"

U saopštenju kompanije se samo pominje evaluacija „da bismo ispitali i poboljšali kvalitet naših usluga". Profesorka prava Lena Rudkovski (Rudkowski) sa Univerziteta u Gisenu naziva snimljene poruke ovog tipa „pravno problematičnim“ jer pozivaoci ne znaju kako će razgovor biti ocijenjen. Prepoznavanje emocija je nešto „što kupac ne mora da očekuje“.

Pozivaoci nisu informisani o emocijama koje procjenjuje AI, potvrđuje menadžer 11880 Jern Hausman. Pristanak na procijenu nije potreban: „Ovdje se ništa ne čuva i iz toga se ne izvode profili kupaca“, kaže Hausman. To znači: čak i ako se kupci protive snimanju, emocije se procjenjuju.

Ekspert Vede: Prepoznavanje emocija je nedopustivo

Profesor prava Peter Vede (Wedde) sa Univerziteta primijenjenih nauka u Frankfurtu smatra da je analiza emocija u kol-centrima pravno nedopustiva. Poslodavcima je dozvoljeno da obrađuju samo one podatke od svojih zaposlenih koji su apsolutno neophodni, kaže Vede. Analiza emocija omogućava „dalekosežne uvide u ličnost". U najširem smislu, prema Vedeu, radi se o zdravstvenim podacima, čija obrada podliježe izuzetno strogim pravilima.

Za pravnicu Rudkovski sa Univerziteta u Gisenu, upitno je da li bi stalna analiza u realnom vremenu koju bi vođe timova mogli da vide mogla da rezultira potpunim praćenjem agenata kol-centra. Poslodavcima nije dozvoljeno da prate svoje zaposlene „kontinuirano tokom njihovog radnog vremena i stavljaju ih pod znatan psihološki pritisak", naglašava Rudkovski.

AI na radnom mjestu - nema jasnih pravila

Skoro 160.000 ljudi radi u kol-centrima u Njemačkoj. Nejasno je koliko kol-centara koristi vještačku inteligenciju za analizu govora ili emocija. Stručnjaci iz industrije procjenjuju da između deset i trideset odsto kol-centara u Njemačkoj procjenjuje telefonske pozive pomoću vještačke inteligencije.

U Njemačkoj trenutno ne postoji zakonska regulativa o vještačkoj inteligenciji – uključujući i na radnom mjestu. Savezna vlada trenutno radi na novom zakonu o zaštiti podataka zaposlenih, koji će uticati i na upotrebu AI, piše Ministarstvo rada Njemačke u odgovoru na zahtjev BR-a.

Član EP: Emocionalna-AI „pseudonaučna“

Na nivou EU, Zakon o vještačkoj inteligenciji ima za cilj da fundamentalno reguliše upotrebu vještačke inteligencije u budućnosti. Evropski parlament je u junu velikom većinom glasova usvojio njegov stav o nacrtu zakona. Parlamentarni stav predviđa da prepoznavanje emocija pomoću glasovne vještačke inteligencije treba zabraniti na radnom mjestu, u obrazovanju i kod sprovođenje zakona.

Sergej Lagodinski (Sergey Lagodinsky), poslanik Saveza 90/Zelenih u Evropskom parlamentu, naziva upotrebu vještačke inteligencije za prepoznavanje emocija „pseudonaučnom“. U intervjuu BR-u Lagodinski kaže da „svaka osoba ima pravo na unutrašnji život i da ne dijeli svoje emocije”.

Evropski supervizor za zaštitu podataka Vojciek Vjeviorovski (Wojciech Wiewiórowski) takođe opisuje upotrebu vještačke inteligencije za prepoznavanje emocija kao „izuzetno nepoželjnu”. Međutim, zdravstvene i istraživačke svrhe su izuzetak.

Debata o zabrani prepoznavanja emocija

Pojedini poslanici iz konzervativne Evropske narodne partije (EPP) povlače se od strogih zabrana u Zakonu o vještačkoj inteligenciji. Angelika Nibler (Niebler) (CSU) je rekla u BR intervjuu da je prepoznavanje emocija na radnom mjestu pitanje gdje morate „pažljivo odmjeriti mogućnosti i rizike“.

- pročitajte još: Uskoro i u EU: Vještačka inteligencija zapošljava, otpušta, bira šefove

Komisija, Savjet i Evropski parlament trenutno još pregovaraju o konačnom sadržaju Zakona o vještačkoj inteligenciji. Očekuje se da će pregovori biti završeni do kraja ove godine.

Autori: Rebecca Ciesielski, Sammy Khamis i Simon Wörz, BR/ ss

Pratite nas i na Facebooku, preko X-a, na Youtubeu, kao i na
Instagramu