Zaměstnanci společnosti Snap si byli dobře vědomi problémů s bezpečností dětí aplikace, říká nově nezapečetěná stížnost

„Do listopadu 2022 zaměstnanci Snapu diskutovali o 10 000 uživatelských hlášeních o sexuálním vydírání každý měsíc, přičemž uznali, že tato hlášení ‚pravděpodobně představují malý zlomek tohoto zneužívání‘ vzhledem k hanbě a dalším překážkám, které brání hlášení,“ uvádí nově nezapečetěná verze žaloby. podal generální prokurátor Nového Mexika proti Snapovi. Tato méně upravená verze podání, které jsme poprvé viděli před měsícem přidává nové podrobnosti o tom, co zaměstnanci společnosti Snap údajně věděli o rozsahu sexuálního vydírání, z jehož napomáhání je na své platformě obviněn.

V jednom údajném případě se zaměstnanci odvolávali na případ se 75 zprávami proti němu „zmiňujícími akty, nezletilé a vydírání, ale účet byl stále aktivní“. A v roce 2022 interní výzkum společnosti Snap údajně zjistil, že více než třetina dospívajících dívek a 30 procent dospívajících chlapců na její aplikaci byla vystavena „nechtěnému kontaktu na její platformě“. stížnost říká.

Nové detaily vykreslují obrázek společnosti, která si je vědoma svých údajných nedostatků, pokud jde o ochranu dětí ve své službě, ale není dostatečně zaměřena na jejich nápravu. „Bývalí zaměstnanci společnosti Snap pro důvěru a bezpečnost si stěžovali, že ‚mají malý kontakt s vyšším managementem ve srovnání s jejich prací v jiných společnostech sociálních médií, a že pokusy o přidání bezpečnostních mechanismů do aplikací se odrazily, protože [Snap CEO] Evan Spiegel upřednostnil design,“ píše se ve stížnosti.

V a prohlášení zveřejněné ve své redakciSnap uvedl, že jeho aplikace je navržena jako „místo pro komunikaci s úzkým okruhem přátel, s vestavěnými bezpečnostními zábradlími a provedli záměrná rozhodnutí ohledně designu, aby bylo pro cizí lidi obtížné objevit nezletilé v naší službě. Pokračujeme ve vývoji našich bezpečnostních mechanismů a zásad, od využívání pokročilých technologií k detekci a blokování určitých aktivit, přes zákaz spřátelení z podezřelých účtů až po spolupráci s orgány činnými v trestním řízení a vládními úřady a mnohem více.“

Podle stížnosti zaměstnanci společnosti Snap v roce 2021 rozeslali externí zprávu, která obsahovala příklady údajných predátorů, kteří se prostřednictvím Snapchatu spojovali s dětmi ve věku osmi let a získávali materiály týkající se sexuálního zneužívání dětí. Obávali se však, že opatření k zachycení tohoto druhu chování budou nepřiměřeně zatěžovat soukromí uživatelů a „vytvářejí nepřiměřené náklady na správu,“ tvrdí stížnost.

Zaměstnanci také údajně identifikovali rizika s některými funkcemi Snapchat, jako je Rychlé přidání, což navrhuje, aby se ostatní uživatelé spojili. „Musíme přijít s novými přístupy, které omezí naše nejzranitelnější uživatele (nezletilé) a znesnadní je dravým uživatelům najít je pomocí rychlého přidávání, vyhledávání atd.,“ napsal podle stížnosti jeden z vedoucích pracovníků. „Věříme, že toho můžeme dosáhnout, aniž bychom pro tyto uživatele smysluplně zhoršovali zkušenost s produktem, pokud budeme prosazovat nové strategie v oblasti generování/omezení zásob a dalších technik, abychom efektivněji odsunuli nezletilé od lidí mimo jejich sítě.“ Snap to později udělal tak, že se funkce Rychlé přidání zobrazovala pouze na účtech 13 až 17letých, když měli „určitý počet společných přátel s touto osobou“. Ale interně, jak se uvádí ve stížnosti, zaměstnanci uznali, že tento přístup bude mít stále značné nedostatky.

Nezapečetěná stížnost také obsahuje další podrobnosti o tom, jak Snap údajně usnadnil nezákonný prodej zbraní. V jedné nedatované prezentaci společnost uznala, že její platforma vidí „50 příspěvků souvisejících s nelegálním prodejem zbraní denně a 9 000 zhlédnutí denně těchto zbraní na trhu“. A i když je nahlášen obsah, “[r]Hlášený obsah je obvykle před nahlášením zhlédnut stokrát.“

Zahrnuje také interní komunikaci potvrzující návykovost Snapstreaks, kde je uživatelům sděleno, kolik dní pokračovali v komunikaci s jiným uživatelem. “Páni, měli bychom mít více návykových funkcí, jako je tato,” napsal údajně jeden zaměstnanec podle e-mailu z ledna 2017. “Většina streakerů je naše základní demografická skupina,” napsal další. Prezentace z října 2019 údajně uvedla, že „proužky znemožňují odpojení ani na jeden den“.