Facebook používá roboty k předvídání a prevenci špatného chování

Navzdory mnoha snahám Facebooku se špatným aktérům nějak vždy podaří prosáknout jeho ochrannými opatřeními a zásadami. Sociální síť nyní experimentuje s novým způsobem, jak posílit své antispamové zdi a zabránit špatnému chování, které by mohlo potenciálně porušit jeho záruky: Armádu robotů.

Facebook říká, že vyvíjí nový systém robotů, který dokáže simulovat špatné chování a stresově testovat svou platformu, aby odhalil jakékoli nedostatky a mezery. Tito automatizovaní roboti jsou vyškoleni a učeni, jak se chovat jako skutečná osoba s využitím pokladů modelů chování, které Facebook získal od svých více než dvou miliard uživatelů.

Aby se zajistilo, že tento experiment nebude zasahovat do skutečných uživatelů, vytvořil Facebook také jakousi paralelní verzi své sociální sítě. Zde jsou roboti uvolněni a mohou běžet nekontrolovatelně - mohou si navzájem posílat zprávy, komentovat fiktivní příspěvky, posílat žádosti o přátelství, navštěvovat stránky atd. Ještě důležitější je, že tyto A.I. roboti jsou naprogramováni tak, aby simulovali extrémní scénáře, jako je prodej drog a zbraní, aby otestovali, jak by se jim algoritmy Facebooku pokusily zabránit.

Facebook tvrdí, že tento nový systém může hostovat „tisíce nebo dokonce miliony robotů“. Jelikož běží na stejném kódu, jaký uživatelé ve skutečnosti zažívají, dodává, že „akce robotů jsou věrné účinkům, kterých by se dočkali skuteční lidé využívající platformu.“

„Zatímco je projekt v tuto chvíli ve fázi pouze pro výzkum, doufáme, že nám jednoho dne pomůže zlepšit naše služby a odhalit potenciální problémy se spolehlivostí nebo integritou, než ovlivní skutečné lidi využívající platformu.“ napsal vedoucí projektu Mark Harman do příspěvku na blogu.

V tuto chvíli není jasné, jak efektivní bude nové simulační prostředí Facebooku. Jak zmínil Harman, je to stále v poměrně raných fázích a společnost zatím žádné ze svých výsledků nepoužila pro veřejné aktualizace. Během posledních několika let sociální síť aktivně investovala a podporovala výzkum založený na umělé inteligenci s cílem vyvinout nové nástroje pro boj proti obtěžování a spamu. Na své výroční vývojářské konferenci před dvěma lety Mark Zuckerberg oznámil, že společnost buduje nástroje umělé inteligence pro řešení příspěvků, které obsahují teroristický obsah, projevy nenávisti, spam a další.

Poslední příspěvky