EU har inlett en utredning mot xAI, företaget bakom Grok, som syftar till att förbjuda verktyget på den europeiska marknaden. Utredningen, som inleddes på måndagen, handlar om huruvida Grok har brutit mot EU:s Digital Services Act.
Officiellt anges att utredningen beror på att Grok, som är tillgängligt via X (tidigare Twitter), kan generera sexualiserade bilder och videor av riktiga personer utan deras samtycke. Detta är något som även andra liknande tjänster kan göra.
Kommissionen kommer att undersöka om X har följt EU:s krav för att skydda användare när Grok integrerades i plattformen och dess algoritmer. Kommissionens ordförande Ursula von der Leyen uttryckte i ett uttalande att man inte kan överlämna samtycke och barns skydd till teknikföretag som kan kränka och profitera på detta. Hon betonade att skador från illegala bilder är en verklig och allvarlig fråga.
Utredningen kommer kort efter att den brittiska regeringen, under ledning av premiärminister Keir Starmer, har kritiserat plattformen. Tidigare har X dessutom fått böta för bristande transparens, och dessa böter kan uppgå till en betydande del av företagets årliga intäkter.
I januari begränsades Groks möjligheter att generera bilder, först genom att endast betalande prenumeranter fick tillgång. EU-kommissionen ansåg då att de förändringar som gjorts var otillräckliga. Senare uttryckte EU-tjänstemän sin oro för plattformens hantering av dessa frågor, vilket ledde till ytterligare åtgärder.
Trots att xAI meddelade att man vidtagit tekniska åtgärder för att stoppa manipulation av bilder och filmer, anser EU-kommissionen att dessa åtgärder inte är tillräckliga. Henrik Alexandersson, journalist och samhällsdebattör, påpekar att det finns många AI-tjänster som erbjuder liknande funktioner som Grok, men att dessa inte verkar vara under samma granskning av EU.
Det finns en oro för att Grok behandlas hårdare än andra tjänster, delvis på grund av ägarens politiska kontroverser. Alexandersson ifrågasätter om EU:s politiker verkligen har en förståelse för de konsekvenser som ett förbud mot Grok skulle få för tillgången till information och kunskap.
Det är värt att notera att Grok anses vara ett av få AI-verktyg som inte förvränger information kring politiskt känsliga ämnen. Att stoppa en sådan plattform kan upplevas som ett hot mot den fria informationsspridningen och kunskapsinhämtningen.
