U ZAKONU O VEŠTAČKOJ INTELIGENCIJI POSTOJI ODREDBA KOJA BRINE SVET: Kako se boriti protiv "onlajn" manipulacije?

Ako ste ikada bili zabrinuti da organizacije koriste veštačku inteligenciju kako bi manipulisali vama, niste sami. Mnogi se plaše da društvene mreže, pretraga, sistemi preporuka mogu nesvesno da utiču na naše emocije, uverenja ili ponašanja.

Nacrt zakona EU o veštačkoj inteligenciji artikuliše ovu zabrinutost pominjem "podsvesne tehnike" zbog kojih ljudi ne mogu samostalno da donose odluke ili pak nisu u stanju da kontrolišu svoju volju odnosno odupru se (npr. prilikom kupovine nekog proizvoda, postoji šansa da ćete kupiti nešto što niste zapravo želeli upravo zbog "manipulacije").

Član 5 Zakona EU o veštačkoj inteligenciji zabranjuje sisteme koji koriste podsvesne tehnike koje modifikuju odluke ili postupke ljudi na načine koji mogu da izazovu značajnu štetu.

Ovom temom su se bavili Huan Pablo Bermudez, naučni saradnik na Imperijal koledžu u Londonu, Rune Nirup, vanredni profesor na Univerzitetu Arhus, Sebastijan Deterding,  predsedavajući za inženjerstvo dizajna na Imperial College London i Rafael A. Calvo, sa katedre za inženjerski dizajn na Imperial College London.

Oni su predložili širu definiciju koja obuhvata problematične slučajeve manipulacije bez preopterećenja regulatora ili kompanija.

Šta može biti problematično?

Rizik postoji jer zavisi od toga kako definišemo podsvesne tehnike – što nacrt zakona još uvek ne čini.

Termin 'podsvesno' se tradicionalno odnosi na senzorne stimuluse koji su dovoljno slabi da izbegnu svesnu percepciju, ali dovoljno jaki da utiču na ponašanje; na primer, prikazivanje slike kraće od 50 milisekundi.

Definisanje takvih tehnika u ovom smislu predstavlja probleme. Prvo, stručnjaci se slažu da podsvesni stimulansi u najboljem slučaju imaju vrlo kratkotrajne efekte i samo podstiču ljude da rade stvari za koje su već motivisani. Dalje, ovo ne bi obuhvatilo većinu problematičnih slučajeva koji motivišu zabranu: kada onlajn oglas utiče na nas, mi smo svesni senzornog stimulusa (vidljivi oglas).

Štaviše, takve zakonske zabrane su bile neefikasne jer podsvesni stimulansi, po definiciji, nisu jasno vidljivi. Evropa je, recimo, zabranila podsvesno oglašavanje pre više od tri decenije, ali regulatori jedva da su ikada vodili slučajeve.

Dakle, usko definisanje "podsvesnih tehnika" kao podsvesne prezentacije stimulusa verovatno će propustiti većinu zabrinjavajućih slučajeva manipulacije i završiti kao mrtvo slovo na papiru.

Definicija može stati na put manipulaciji

Mnogi korisnici interneta nisu svesni da se veb-sajtovi prilagođavaju na osnovu ličnih podataka kako bi optimizovali "angažovanje klijenata", prodaju ili druge poslovne probleme. Veb sadržaj je često skrojen da nas podstakne ka određenim ponašanjima, a mi nismo svesni da se takvo prilagođavanje dešava.

Čak i kada znamo da neki onlajn sadržaj želi da utiče, često ne znamo zašto nam je predstavljena određena slika ili poruka – da li je to odabrano putem psihografskog profilisanja ili nečeg drugog? Dakle, možemo ostati nesvesni kako na nas utiče.

Sistemi preporuka imaju za cilj da nauče naše preferencije i predlažu sadržaj koji je u skladu sa njima, ali na kraju mogu promeniti naše preferencije. Čak i ako znamo kako smo pod uticajem, možda i dalje ignorišemo kako je uticaj promenio naše odluke i ponašanje.
Da biste videli zašto je ovo važno, zapitajte se: kao korisnik digitalnih usluga, ne biste radije bili informisani o ovim tehnikama uticaja?

Šta se može učiniti?

Subliminalne tehnike (koje su ispod granica ljudske percepcije, tako da ih oko ili razum ne mogu svesno registrovati) imaju za cilj uticanje na ponašanje osobe na način na koji je ta osoba verovatno nesvesna. Ova definicija je dovoljno široka da obuhvati većinu slučajeva problematičnog uticaja vođenog veštačkom inteligencijom, ali ne toliko široka da postane besmislena ili suviše teška za primenu.

Naša definicija posebno cilja na tehnike: postupke koji predvidljivo proizvode određene rezultate. Takve tehnike već se klasifikuju, tako da kompanije mogu proveriti te liste i obezbediti da ih ili ne koriste ili da obelodane njihovu upotrebu. Osim toga, Zakon o veštačkoj inteligenciji zabranjuje ne subliminalne tehnike same po sebi, već samo one koje mogu prouzrokovati značajnu štetu. Dakle, pravi (samo)regulatorni teret leži u testiranju da li sistem povećava rizik od značajne štete, što se može smatrati većim delom standardne zaštite korisnika.

(U nacrtu Evropskog parlamenta dodane su zabrane "manipulativnih ili obmanjujućih tehnika", koje predstavljaju izazove o kojima vredi razgovarati odvojeno. Pomenuti tim tvrdi da bi zabrane podsvesnih tehnika, pravilno definisane, mogle da se pozabave problemima manipulacije.)

(EURACTIV.rs)