Evropská komise oznámila nové vyšetřování chatbota Grok AI platformy X, který mnozí používali ke generování nevyžádaných nahých fotografií a sexualizovaných obrázků.
Podle Evropské komise: „Nové vyšetřování posoudí, zda společnost řádně vyhodnotila a zmírnila rizika spojená s nasazením funkcí Groku na platformě X v EU. To zahrnuje rizika související se šířením nezákonného obsahu v EU, jako jsou manipulované sexuálně explicitní obrázky, včetně obsahu, který může představovat materiál sexuálního zneužívání dětí.“
Chatbot Grok platformy X před několika týdny vytvářel tisíce sexuálně explicitních obrázků denně, než X přistoupila k omezení jeho schopností generovat obrázky. To se však stalo až poté, co majitel platformy X Elon Musk zaujal postoj proti jakýmkoli změnám a bránil se kritikům.
Proč by se někdo chtěl zastávat právě této konkrétní záležitosti, nevím, ale podle Elona šlo o otázku svobody slova. V podstatě tvrdil, že lidé by měli mít možnost generovat nevyžádané nahé fotografie jiných osob, pokud si to přejí.
Nyní Evropská komise prověří, zda X porušila zákon o digitálních službách (DSA), což by mohlo vést k významným pokutám pro společnost.
„Zdá se, že tato rizika se materializovala a vystavila občany v EU vážné újmě. S ohledem na to Komise dále prošetří, zda X dodržuje své povinnosti podle DSA:
- Pečlivě vyhodnocovat a zmírňovat systémová rizika, včetně šíření nezákonného obsahu, negativních dopadů v souvislosti s násilím na základě pohlaví a vážných negativních důsledků pro fyzické a duševní zdraví vyplývajících z nasazení funkcí Groku na své platformě.
- Provést a předat Komisi ad hoc zprávu o posouzení rizik pro funkce Groku ve službě X s kritickým dopadem na rizikový profil X před jejich nasazením.“
Kromě toho Evropská komise také rozšíří své probíhající řízení proti X, aby zjistila, zda společnost řádně vyhodnotila a zmírnila všechna systémová rizika, jak jsou definována v DSA, spojená s jejími doporučovacími systémy, „včetně dopadu nedávno oznámeného přechodu na doporučovací systém založený na Groku.“
Minulý měsíc Evropská komise uložila platformě X pokutu 140 milionů amerických dolarů za porušení DSA, které se týkalo především zmatku způsobeného placenou nabídkou ověřování. V reakci na to Musk přirovnal Evropskou komisi k nacistickému režimu a vyzval USA, aby v reakci na to opustily NATO a zrušily celý rámec EU.
Komise žádala, aby X odstranila možnost Groku vytvářet urážlivé, nevyžádané obrázky. Vzhledem ke způsobu, jakým nástroje AI fungují, by mohlo být obtížné to zcela zakázat, ale xAI od té doby prokázala, že může alespoň jít tímto směrem, a skutečnost, že X se nesnažila takové chování okamžitě omezit, jakmile se objevily zprávy o takovém zneužití, nevěstí společnosti nic dobrého.
Část Muskova odporu spočívala v tom, že jiné aplikace a nástroje mohou generovat podobné obrázky, a přesto nejsou pod stejnou kontrolou jako X.
Rozdíl je v tom, že žádná z nich nemá takový rozsah a dosah jako X a žádná nebyla používána k vytváření takového množství urážlivých obrázků jako X. Tak či onak je to další bitva pro X, která pravděpodobně vyvolá nový veřejný spor, až Evropská komise nakonec zveřejní svá zjištění.
Zdroj: socialmediatoday.com
Zdroj: RESELLER CHANNEL NETWORK NEWS
