Od prosince bude „Roblox“ používat ověřování věku podporované umělou inteligencí k regulaci komunikace mezi hráči. Funkce má zlepšit ochranu nezletilých, ale setkala se také s kritikou.

Přidejte se k nám od prosince „Roblox“ nové ověření věku, které bude v budoucnu předpokladem pro funkci chatu. Aby mohli hráči komunikovat s ostatními uživateli, musí nahrávat fotografie, které umělá inteligence analyzuje a přiřadí k věkové skupině. Implementace bude probíhat celosvětově, ale zpočátku pouze ve vybraných regionech.

Rozdělení do věkových skupin

Nová funkce bude zpočátku zavedena v Austrálii, na Novém Zélandu a v Nizozemsku. Od ledna 2026 bude celosvětově sloužit jako požadavek. Ověření věku je nezbytné, pokud chtějí uživatelé chatovat s ostatními hráči prostřednictvím „Roblox“. Proces je založen na platformě Persona, která analyzuje obličeje pomocí umělé inteligence a provádí tak hodnocení věku.

Pokud si svůj věk nechcete nechat odhadnout, můžete se alternativně ověřit pomocí ID. Po úspěšném ověření bude k účtu přiřazena věková skupina. Používá se šest skupin:

• do 9 let
• 9-12 let
• 13-15 let
• 16-17 let
• 18-20 let
• 21 let a starší

Věkové skupiny určují, s kým smí uživatel komunikovat. Například hráči mladší 15 let nemohou kontaktovat plnoleté osoby, pokud neexistuje potvrzené důvěryhodné spojení.

Nová opatření mají podle Robloxe zajistit větší bezpečnost a ztížit zneužití na platformě. „Odemykáme pro naše uživatele funkce chatu a zážitky přiměřené věku tím, že po nich vyžadujeme ověření věku pomocí rozpoznávání obličeje nebo ověření totožnosti,“ stojí v oficiálním prohlášení.

Po ověření bude kontakt možný pouze s uživateli stejné nebo podobné věkové skupiny. Systém zohledňuje typické věkové rozdíly mezi sourozenci nebo přáteli. Dospělý uživatel může například přidat mladšího sourozence na svůj seznam důvěryhodných, pokud je mu alespoň 13 let.

Co je dobře míněno, není vždy dobře implementováno. A jak se očekávalo, dokonce i po oznámení nejnovějších ochranných opatření pro „Roblox“ se ozvala vlna kritiky.

Kriticky je posuzováno zejména nahrávání dětských fotografií pro analýzu podporovanou umělou inteligencí. Přestože Roblox zdůrazňuje, že spolupracuje s odborníky na rozvoj dětí a nastavil „smysluplné limity pro účastníky chatu“, zůstává skeptický.

„Když jsme žádali o bezpečnost, nemysleli jsme to vážně. Co to děláš?“ někdo napsal na YouTube. Ostatní hráči to vidí podobně: „Ověřování věku není to, o co jsme žádali. Žádali jsme o lepší moderování. Tohle není lepší moderování. Funkce chatu je tu od začátku Robloxu. A teď to zamykají za ověřování věku. […] A sbírat všechny tyhle obrázky dětí je prostě šílené.“

Skepse se objevila i ohledně technické realizace a možných způsobů, jakými by bylo možné věkový test manipulovat. Jak zajistíte, že osoba propojená s účtem je skutečně ověřena a ne starší nebo mladší osoba z okruhu vašich přátel?

Postup je vidět na následujícím videu:

K dispozici je také analýza chatů podporovaná AI. Toto píše Roblox Corporation v oznámení:

• Všechny chaty jsou monitorovány: Komunikaci nešifrujeme. Hlasové a textové zprávy jsou monitorovány na škodlivou aktivitu pomocí sofistikovaných algoritmů AI.
• Filtrovaný textový chat: Chat je filtrován různě v závislosti na věku uživatele a typu připojení. Všechny chaty mezi uživateli mladšími 13 let podléhají přísnému filtrování, které blokuje nevhodný obsah a osobní údaje.
• Přísné zásady sdílení médií: Nadále zakazujeme sdílení obrázků a videí v chatu, abychom eliminovali běžné zdroje nebezpečí.
• Omezené odkazy: Začátkem příštího roku zakážeme tvůrcům obsahu sdílet nebo zveřejňovat odkazy na sociální sítě v zážitcích.

Roblox Corporation má další podrobnosti o opatřeních připraven zde.

Útěk na Epstein Island a Diddy Party

Nové ověření věku má nakonec vážné pozadí: Společnost stojící za „Robloxem“ byla v minulosti několikrát obviněna, že nepodnikla dostatečné kroky proti problematickému obsahu.

Na platformě byly objeveny hry jako „Escape to Epstein Island“, „Diddy Party“ a „Public Bathroom Simulator Vibe“. Podle žaloby obsahovaly sexuálně explicitní obsah a simulovaly scény zneužívání, včetně „gangového znásilňování dětí“.

Nahlásili jsme:

Podle Roblox Corporation bylo za posledních dvanáct měsíců zavedeno přes 145 nových bezpečnostních prvků. Ověřování věku je součástí těchto opatření a mělo by do budoucna představovat důležitý pilíř v koncepci ochrany společnosti.