EU istražuje X i Grok zbog deepfakeova

Na meti europskih regulatora ponovno se našla Muskova mreža X, zbog koje Europska komisija pokreće novu istragu koja će procijeniti je li tvrtka pravilno procijenila i ublažila rizike povezane s implementacijom Grokovih funkcionalnosti u X u EU.

To uključuje rizike povezane sa širenjem ilegalnog sadržaja u EU, poput manipuliranih seksualno eksplicitnih slika, uključujući sadržaj koji može predstavljati materijal o seksualnom zlostavljanju djece.

Čini se da ovi rizici postoje, izlažući građane EU-a ozbiljnoj šteti pa će s obzirom na to, Komisija dodatno istražiti ispunjava li X svoje obveze iz Zakona o digitalnim uslugama.

Ako se dokažu, ovi propusti predstavljali bi kršenje članaka 34(1) i (2), 35(1) i 42(2) Zakona o digitalnim uslugama.

U pripremi za istragu, Komisija je blisko surađivala s Coimisiún na Meán, irskim koordinatorom za digitalne usluge. Nadalje, Coimisiún na Meán bit će uključen u ovu istragu, u skladu s člankom 66(3), kao nacionalni koordinator za digitalne usluge u zemlji poslovnog nastana u EU.

U sljedećim koracima Komisija će nastaviti prikupljati dokaze, na primjer slanjem dodatnih zahtjeva za informacijama, provođenjem intervjua ili inspekcija, te može uvesti privremene mjere u nedostatku značajnih prilagodbi usluge X.

Pokretanje formalnog postupka ovlašćuje Komisiju da poduzme daljnje korake provedbe, kao što je donošenje odluke o neusklađenosti. Komisija je također ovlaštena prihvatiti svaku obvezu koju je X preuzeo za rješavanje pitanja koja su predmet postupka.

Pokretanje formalnog postupka oslobađa koordinatore digitalnih usluga ili bilo koje drugo nadležno tijelo država članica EU-a njihovih ovlasti za nadzor i provedbu Zakona o digitalnim uslugama u vezi sa sumnjivim kršenjima.

Grok je alat umjetne inteligencije (AI) koji je razvio pružatelj usluge X. Od 2024. godine X je na svoju platformu na različite načine implementirao Grok. Te implementacije, na primjer, omogućuju korisnicima generiranje teksta i slika te pružanje kontekstualnih informacija objavama korisnika.

Kao određena vrlo velika online platforma (VLOP) prema Zakonu o digitalnim uslugama (DSA), X ima obvezu procijeniti i ublažiti sve potencijalne sistemske rizike povezane sa svojim uslugama u EU. Ti rizici uključuju širenje ilegalnog sadržaja i potencijalne prijetnje temeljnim pravima, uključujući prava maloljetnika, koje predstavljaju njezina platforma i značajke.

Ova istraga nadopunjuje i proširuje istragu pokrenutu 18. prosinca 2023. , koja se usredotočuje na funkcioniranje mehanizma obavještavanja i djelovanja X-a, njegove mjere ublažavanja nezakonitog sadržaja, poput terorističkog materijala, u EU-u i rizike povezane s njegovim sustavimapreporuka.

CBS News je otkrio da je Grok do ponedjeljka ujutro još uvijek mogao generirati slike osoba bez odjeće, mada je X prethodno tvrdio da je ta mogućnost uklonjena i za besplatne i za plaćene korisnike.

Čini se da X još uvijek nije uklonio mogućnost kreiranja deepfakeova pomoću Groka, što je u potpunosti protivno Europskom zakonu o digitalnim uslugama.