Meta podporuje novú platformu, ktorá pomáha neplnoletým utierať nahé, sexuálne obrázky z internetu

TNárodné centrum pre nezvestné a zneužívané deti spustilo platformu financovanú spoločnosťou Meta, ktorá pomáha deťom a tínedžerom odstrániť zo sociálnych médií nahé alebo sexuálne fotografie a videá.

Nová služba pre maloletých, tzv Take It Down, bol odhalený rok po vydaní podobného nástroja pre dospelých známeho ako StopNCII (skratka pre nekonsenzuálne intímne snímky). Dnes bude Take It Down fungovať iba na piatich platformách, ktoré súhlasili s účasťou: Facebook a Instagram vlastnený spoločnosťou Meta, ako aj Yubo, OnlyFans a Pornhub.

"Vytvorili sme tento systém, pretože veľa detí čelí týmto zúfalým situáciám," povedala prezidentka a generálna riaditeľka NCMEC Michelle DeLaune. "Dúfame, že deti si túto službu uvedomia a pocítia úľavu, že existujú nástroje, ktoré im pomôžu obrázky odstrániť."

Spôsob, akým spoločnosti sociálnych médií chránia deti a tínedžerov – a kde zaostávajú – sa v novom Kongrese ukázal ako hlavná téma technologickej politiky oboch strán a zákonodarcovia majú najväčšiu šancu na prijatie legislatívy. Pred akýmikoľvek návrhmi na vytvorenie alebo posilnenie bezpečnostných opatrení je však ešte dlhá cesta, a keďže neexistujú žiadne zákony, NCMEC naďalej pôsobí ako most medzi online spoločnosťami a orgánmi činnými v trestnom konaní v otázkach bezpečnosti detí. V roku 2021 dostala táto nezisková organizácia na svojich platformách takmer 30 miliónov tipov z celého odvetvia o zjavnom sexuálnom vydieraní a sexuálnom zneužívaní detí. Väčšinu hlásili platformy, ktoré vlastní Meta.

Neplnoletí a rodičia môžu používať Bezplatný anonymný nástroj NCMEC označiť explicitný materiál neplnoletej osoby, ktorý bol – alebo si myslia, že bude – šírený online. Keď si na svojom zariadení vyberú citlivé fotografie alebo videá, platforma vygeneruje ekvivalent digitálneho odtlačku tejto fotografie (nazývaný „hash“), ktorý NCMEC potom zdieľa so zúčastnenými stránkami sociálnych médií, aby sa mohli pokúsiť nájsť, obmedziť alebo odstrániť a naďalej sledovať tento obsah.

Podľa NCMEC príslušné fotografie alebo videá najmä neopúšťajú zariadenie a nikto ich neprezerá. (Hash tiež udržuje obete neidentifikovateľné pre NCMEC aj pre aplikáciu sociálnych médií, čo signalizuje iba to, že obrázok je škodlivý a mal by byť odstránený.) NCMEC uviedla, že neboli známe žiadne porušenia jej hašovacej databázy, ktoré by potenciálne mohli odhaliť identitu jednotlivca. .

Ale jednou z najväčších prekážok tohto úsilia je nárast end-to-end šifrovania. „Keď technologické spoločnosti implementujú šifrovanie typu end-to-end bez zabudovaných preventívnych opatrení na odhalenie známeho materiálu týkajúceho sa sexuálneho zneužívania detí, dopad na bezpečnosť detí je zničujúci,“ povedal DeLaune, prezident NCMEC, na vypočutí Senátu pre súdny výbor tento mesiac. . Slon v miestnosti je finančný podporovateľ a najvýznamnejšia spoločnosť zapojená do Take It Down, Meta pohybom klipu smerom k end-to-end šifrovaniu na Instagrame aj Messengeri.

Ako to môžu tieto dve organizácie zosúladiť, je „otázka milióna dolárov“, povedal viceprezident NCMEC Gavin Portnoy. Forbes, pričom poznamenáva, že NCMEC stále presne nevie, aké plány má Meta pre šifrovanie a aké ochranné opatrenia môžu byť zavedené. (Meta uviedla, že sa na nich pracuje a že na Instagrame a Messengeri sa testujú rôzne funkcie šifrovania.)

"Budujeme Take It Down pre spôsob, akým sa dnes nachádza internet a [poskytovateľ elektronických služieb]," povedal Portnoy. „To je naozaj most, ktorý budeme musieť prekonať, keď lepšie pochopíme, ako vyzerá end-to-end šifrovacie prostredie [Meta] – a či existuje svet, v ktorom Take It Down môže fungovať.“

Povedala to globálna šéfka bezpečnosti Meta Antigone Davisová Forbes že „šifrovanie povedie k tomu, že niektoré obrázky nebudeme identifikovať“, ale že sa stáva priemyselným štandardom v oblasti správ, ktorý je životne dôležitý pre súkromie a bezpečnosť používateľov. Používanie hašovacej technológie a podpora NCMEC na projektoch, ako je tento, patrí medzi niekoľko spôsobov, ako sa Meta snaží „skutočne riešiť problém,“ povedala. (Obe strany odmietli povedať, koľko peňazí dala Meta NCMEC na vybudovanie Take It Down.)

"Neexistuje žiadny všeliek na riešenie týchto problémov," povedal Davis v rozhovore a opísal prístup Meta ako "mnohostranný." Okrem spolupráce na tomto novom systéme zameranom na zmarenie sexuálneho vydierania a nekonsenzuálneho šírenia intímnych obrázkov, Meta neumožňuje dospelým cudzincom spojiť sa s maloletými prostredníctvom svojich funkcií správ, povedala. Používa tiež klasifikátory na zabránenie tomu, aby sa účty a obsah neplnoletých posúvali dospelým používateľom Meta, ktorí prejavili podozrivé správanie online, dodala.

„Dúfam, že ľudia, ktorí takto zdieľali obrázky, keď boli mladí, niekým – rodičom, ktorý ich vykorisťoval, iným dospelým, ktorý ich vykorisťoval, bývalým priateľom alebo priateľkou –, že budú mať záujem použite tento nástroj,“ povedal Davis.

NCMEC uviedla, že niektorých navrhla 200 ďalších poskytovateľov elektronických služieb ktoré odoslali informácie na jeho „CyberTipline“ o zapojení sa do programu Take It Down. Uvidí sa, kto ďalší – okrem malej hŕstky hráčov sociálnych médií, ktorí to dnes presadzujú – sa dostane na palubu. Yubo zo svojej strany povedal, že dúfa, že títo prví používatelia prinútia ostatných, aby sa pridali.

„Zmiernenie rizika a riešenie problémov online si vyžaduje viac než len vládny zásah,“ povedal generálny riaditeľ Yubo Sacha Lazimi e-mailom. „Všetci herci musia hrať svoju úlohu. … Spolupráca je kľúčom k identifikácii riešení veľkých výziev, preto dúfame, že sa k iniciatíve Take It Down pripojí viac platforiem.“

VIAC OD FORBESAko sa TikTok Live stal „stripovým klubom plným 15-ročných“By Alexandra S. LevineVIAC OD FORBESTieto účty TikTok skrývajú materiál so sexuálnym zneužívaním detí na prvý pohľadBy Alexandra S. LevineVIAC OD FORBESModerátori TikTok sa školia pomocou grafických obrázkov sexuálneho zneužívania detíBy Alexandra S. Levine