Jiří Satke 
Roblox patří mezi nejpopulárnější platformy na světě. Podle analýzy společnosti Backlinko ji denně využívá až 80 milionů lidí, převážně dětí, pro které je atraktivní kvůli jednoduché grafice a ovládání. Herní služba je oblíbená také díky uživatelskému obsahu, který tvoří její jádro. Všechny hry jsou vytvářeny samotnými hráči. Proto musí zajistit velké množství moderátorů, kteří se starají o uživatele a jejich obsah.
Moderace v Robloxu funguje tak, že uživatelé nahlašují obsah, který následně kontrolují moderátoři. Důležité je, že každý problém musí být na konci řetězce zkontrolován a vyhodnocen reálným člověkem, nikoli například umělou inteligencí. AI může obsah pouze nahlašovat, pokud se jedná o jasně definované problémy, jako je například psaní nevhodných slov. Moderátoři musí kontrolovat nejenom hry, které uživatelé vytvořili, ale dílčí herní prvky jako třeba oblečení, které postavy v hrách nosí. To je, vzhledem k množství obsahu, velmi náročné. Jde třeba o skrytý význam, jako například oblečení s číslem 88 či jinými nacistickými symboly, které nevypadají na první pohled problematicky. Proto je důležité zefektivnit moderaci tak, aby nebyli moderátoři zahlceni jasně nevhodným obsahem a mohli se soustředit na komplexnější problémy.
Kontrola obsahu a uživatelů je slabá
Herní platforma je kontroverzní kvůli neefektivní moderaci. Důsledkem jsou nárůsty případů sexuálního obtěžování nebo vydírání. Podle zveřejněných statistik z USA jich je okolo 13 tisíc ročně.
Zpochybnění důvěry v Roblox
Existuje konkrétní případ, který se týkal vývojáře minihry Sonic Eclipse Online, Arnolda Castilla. Ten byl v roce 2022 odsouzen za únos 15leté dívky. Castillo navázal kontakt s obětí přes jeho hru a následně spolu trávili čas. Pachatel se stále snažil prohlubovat jejich vztah tím, že oběti kupoval dárky. Situace vyeskalovala, když se měli setkat. Castillo najmul řidiče, který přepravil dívku z Louisiany, kde bydlela se svými rodiči, do pachatelova domu v New Jersey. Během cesty byla dívka nahlášena jako nezvěstná. Nakonec policie po osmi dnech našla Castilla společně s dívkou před jeho domem. V průběhu zatčení a prohlídky našli v kapse kondomy. Později přiznal, že ji držel zavřenou v malé místnosti, kde s ní pravděpodobně měl pohlavní styk. Castillo byl shledán vinným za grooming a únos nezletilé dívky.
Jak reagoval Roblox?
Případ Castilla jako samotný nevyvolával otázky ohledně bezpečnosti herní platformy. Problémový byl přístup ke Castillovu obsahu. Roblox se rozhodl jeho hru ponechat, což mu umožnilo nadále vydělávat peníze. Situace se změnila o pár měsíců později, kdy SEGA kontaktovala Roblox, aby Castillovu hru odstranila. Nikoli však kvůli jeho činům, ale kvůli copyrightu. Jeho hra využívala postavy ze hry Sonic the Hedgehog, na kterou neměl autorská práva. V tomto momentě hráči začali pochybovat etických pravidlech herní služby.
Situace ohledně bezpečnosti na platformě se i přes narůstající počet obětí příliš nezměnila. Momentálně ale správci zavádějí nové funkce pro rodiče. Mohou sledovat aktivity svých dětí na herní platformě, blokovat chat a specificky vybírat hry, které můžou hrát.
