Ancheta se concentrează pe modul de utilizare a funcțiilor de editare a imaginilor din Grok. Potrivit presei, acestea ar fi permis „dezbrăcarea” virtuală a fotografiilor unor femei și fete minore fără acordul lor. Situația s-ar fi agravat odată cu lansarea unei opțiuni plătite, numită „Spicy Mode”, capabilă să genereze conținut explicit.
În urma presiunii publice, platforma X a introdus restricții tehnice pentru a împiedica modificarea imaginilor cu persoane reale în scopuri sexualizate, indiferent de tipul de abonament.
Reprezentanții companiei au anunțat că au eliminat toate imaginile de natură sexuală generate prin Grok, inclusiv cele cu minori, și au suspendat definitiv conturile utilizatorilor implicați. Platforma X a precizat că acționează ferm împotriva conținutului ilegal și colaborează cu autoritățile acolo unde este necesar.
Cazul Grok este cercetat și în alte state, printre care Franța, Marea Britanie, și Germania. În anumite țări asiatice, utilizarea aplicației a fost interzisă complet. Comisia Europeană a solicitat informații suplimentare în baza Digital Services Act (DSA). Dacă se vor confirma încălcări ale legislației, platforma X ar putea fi amendată cu până la 6% din veniturile sale globale anuale.
Platforma a mai fost sancționată de autoritățile europene. În decembrie anul trecut, Comisia a aplicat o amendă de 120 de milioane de euro pentru practici considerate înșelătoare, legate de sistemul de verificare a conturilor și de publicitate.
