Foto: ChatGPT (ustvarjeno z umetno inteligenco)
Evropska komisija (EK) od YouTuba, Snapchata in TikToka do 15. novembra zahteva podrobnejše podatke o zasnovi in delovanju njihovih algoritemskih priporočilnih sistemov.
Platforme nam personalizirane vsebine priporočajo s pomočjo umetne inteligence – algoritmov. Ti so na podlagi analize naših osebnih podatkov in spletne aktivnosti sposobni predvidevati, katere vsebine želimo spremljati. Takšni predlogi lahko sčasoma vplivajo na naša prepričanja, pa tudi na naše odločitve, na primer, komu oddati glas na volitvah, kaj kupiti na spletu, komu zaupati itd.
Zasnova spletnih platform pa lahko tudi negativno vpliva na naše duševno zdravje. Funkcije neskončnega pomikanja (ang. endless scrolling), samodejnega predvajanja videov ter »potegni za osvežitev« (ang. pull to refresh) so namreč t. i. temni vzorci, ki se jih platforme, zasledujoč lastno ekonomsko korist, poslužujejo z namenom, da bi uporabniki čim več časa preživeli na njih ter tako videli čim več oglasnih sporočil. Zaradi domišljene uporabe tovrstnih funkcij smo uporabniki bistveno bolj dovzetni za spremljanje vsebin, ki jih vidimo na platformi – veliko bolj, kot bi to sicer bili brez uporabe tovrstnih algoritmov za priporočanje vsebine in veliko bolj, kot je to še zdravo za naše dobro duševno počutje in fizično zdravje.
Ker 10. oktobra obeležujemo tudi dan duševnega zdravja, si preberite tudi, kako algoritmi družbenih omrežij ogrožajo naše duševno zdravje ter zakaj so za dobro duševno kondicijo še kako pomembne kompetence medijske pismenosti.
Po določilih Akta o digitalnih storitvah (DSA) morajo platforme oceniti in ustrezno obvladovati tveganja, ki izhajajo iz njihovih priporočilnih sistemov, vključno s tveganji za duševno zdravje uporabnikov ter širjenje škodljivih vsebin, usmerjenih v povečanje angažiranosti uporabnikov.
YouTube in Snapchat morata tako Evropski komisiji posredovati podrobne informacije o parametrih, ki jih uporabljajo njuni algoritmi za priporočanje vsebin uporabnikom, ter o njihovi vlogi pri povečevanju tveganj, vključno s tistimi, ki so povezana z odločitvami uporabnikov pri volitvah, duševnim zdravjem uporabnikov ter zaščito mladoletnikov.
Evropska komisija preverja tudi ukrepe platform za omilitev morebitnega vpliva njihovih priporočilnih sistemov na širjenje nezakonitih vsebin, kot sta promocija nezakonitih drog in sovražni govor. TikTok pa mora posredovati dodatne informacije o ukrepih, ki jih je sprejel za preprečevanje manipulacije platforme s strani zlonamernih akterjev in za zmanjšanje tveganj v povezavi s pluralnostjo medijev, ki jih lahko določeni priporočilni sistemi še okrepijo.
Na podlagi prejetih odgovorov bo komisija ocenila potrebnost nadaljnjih ukrepov. V primeru uvedbe uradnega postopka in ugotovljenih kršitev lahko ponudnike finančno kaznuje. Neupoštevanje zahtev DSA lahko vodi do izreka glob v višini do 6 % globalnega letnega prihodka podjetja.
Sicer pa Evropska komisija vodi postopke v zvezi z algoritemskimi priporočilnimi sistemi tudi proti drugim velikim platformam (AliExpress, Facebook in Instagram). Predvsem Meta in TikTok pa sta že v preiskavi zaradi pomislekov glede domnevne zasvojljivosti njunih platform in načina zaščite mladoletnikov na spletu.