Jak umělá inteligence může sbírat stopy, aby zabránila budoucím střelbám ze školy

Ve světle nedávných smrtících školních přestřelek ve Spojených státech hledají pedagogové, rodiče a bezpečnostní experti technologii, která by problém pomohla vyřešit. V popředí je použití umělé inteligence.

"Naším cílem je zajistit, aby dítě nikdy nechtělo přinést do školy zbraň," řekla Suzy Loughlin, spoluzakladatelka a hlavní rada společnosti Firestorm, která se specializuje na řešení krizí. Za tímto účelem společnost ve spolupráci s University of Alabama School of Continuing Education vyvinula preventivní program, který hledá příznaky včasného varování u dětí, které mohou být vystaveny riziku budoucích násilných činů.

Přezdívaná BERTHA, pro Program posuzování rizik ohrožení chování, myšlenka vyrostla z masového střílení na Virginia Tech v roce 2007, kdy bylo zavražděno 32 lidí - jeden z nejsmrtelnějších v historii USA. Únorová střelba na střední škole Marjory Stonemana Douglase v Parklandu na Floridě, která zabila 17 lidí, přinesla větší pozornost této problematice, opět podtržená v květnu, střelbou na střední škole v Santa Fe, kde bylo zabito 10 studentů a učitelů.

Školní střelba obětí od roku 1989, Zdroj: Matka Jones

Program hodnocení rizik je koncipován jako záchranná síť k zachycení dětí, které mohou potřebovat pomoc a zásah, než se stanou sebevražednými nebo násilnými. Jak bylo prokázáno po každém předchozím incidentu, administrátoři, rodiče a studenti si kladou otázku, proč si včasné varovné signály - jako je kyberšikana, narážky na zbraně a odkazy na střelbu na Columbine High School v Coloradu v roce 1999 - dříve nevšimly.

Používání AI k hledání stop

Výzvou byla obtížnost prosévat hory dat generovaných na fórech a účtech sociálních médií, aby se našlo několik jehel, které by mohly upozornit školního poradce nebo psychologa, že dítě má potíže. Aby administrátoři takové stopy odfiltrovali online, získávají nástroje umělé inteligence.

"Naším cílem je zajistit, aby dítě nikdy nechtělo přinést do školy zbraň."

"Jsme složkou AI," vysvětlila Mina Lux, zakladatelka a generální ředitelka newyorské společnosti Meelo Logic. Její společnost pracuje na programu BERTHA s firmou Firestorm, aby provedla počáteční těžké zvedání třídění věcí, které se staly známými jako velká data. "Naším cílem je automatizace znalostí, abychom porozuměli kontextu."

Software společnosti Meelo dokáže sledovat komentáře a příspěvky zpět k jejich původnímu zdroji. Společnost tento proces označuje jako kauzální uvažování, ale je to analogické s hledáním pacienta nula, původního jedince, o kterém mohl vyjádřit znepokojení někdo jiný.

"Obvykle dochází k počátečnímu výbuchu online a záměrně to zveřejňují - může to být volání o pomoc," vysvětlil Hart Brown, COO společnosti Firestorm. "A v 80 procentech případů to ví alespoň jedna další osoba, takže i když je první příspěvek soukromý, někdo jiný ho pravděpodobně zveřejní."

Program AI poskytuje počáteční screening na základě použitých slangových výrazů, kontextu, umístění a souvisejících odkazů. Poté řídicí panel Firestorm BERTHA označí aktivitu pro možný zásah. To je místo, kde lidé - poradci, učitelé, psychologové - vstupují do hodnocení, zda existuje skutečná hrozba, zda dítě potřebuje zvláštní pozornost, protože vykazuje zlost nebo sebevražedné sklony, nebo zda je aktivita benigní.

Výzvou byla obtížnost prosévat hory dat generovaných na fórech a sociálních médiích.

"Ale nikdo není odpovědný za rozhodnutí," uvedla Brenda Truelove, administrátorka programu na University of Alabama, která spolupracuje s firmou Firestorm na programu a souvisejícím e-learningovém programu pro pedagogy po celé zemi. "Jeden člověk možná něco zmešká, takže je to tým lidí, kteří rozhodují, co dělat."

Truelove poznamenal, že program je založen na zkušenostech učitelů, forenzních psychologů a dalších odborníků s cílem vytvořit vzorec pro řešení potenciálních krizí.

Znamená zvýšená bezpečnost méně soukromí?

I když potenciál AI v prevenci budoucích střel na škole může být slibný, takové sledování a analýza dat vyvolávají nevyhnutelné obavy o soukromí a přesnost a o to, zda bezpečnost převažuje nad obavami.

Bryce Albert, student devátého ročníku střední školy Marjory Stoneman Douglas High School, byl v chodbě ve třetím patře, když střelec začal střílet na studenty. Když Albert viděl vraha sestupujícího z haly, učitel pustil Alberta do učebny a on přežil. Od té zkušenosti změnil názor na soukromí.

"Dříve jsem byl rád, nechoďte do mých věcí," řekl Albert Digital Trends o úřadech sledujících jeho využití v sociálních médiích. "Ale teď jsem úplně změnil názor."

Meelo's Lux zdůraznil, že programy AI nemají přístup k žádným soukromým účtům; všechny informace jsou veřejné. Loughlin společnosti Firestorm zdůraznil skutečnost, že sami neshromažďují ani neukládají data. Udržují jej jednotlivé školy, které již mají zkušenosti s vedením záznamů studentů. (Firestorm účtuje licenční poplatek ve výši 2 500 $ za školu, zatímco University of Alabama nabízí bezplatný online školicí kurz pro pedagogy Alabama K-12. Školy mohou také zdarma pracovat na vlastních projektech včasného varování pomocí základního devítistupňového vzorce Firestorm pro zavádění těchto programů.)

Lux uznává, že jemnosti jazyka, jako je sarkasmus, mohou být pro jakýkoli výzkum AI výzvou. Meelo se zaměřuje spíše na textovou analýzu než na druh obrazové analýzy, kterou studují jiné společnosti AI, jako je Cortica. Stále existuje prostor pro dezinterpretaci i pro lidské účastníky.

"Je těžké získat emoce prostřednictvím textových zpráv," uznal Albert.

Na druhou stranu, nezaujatý program nehraje oblíbené nebo ignoruje druhy emocionálních změn nebo změn chování, které by mohly naznačovat, že nastanou potíže.

AI je stále jen počátečním filtrem nebo nástrojem, který zastaví budoucí střelby ze školy.

"Nakonec to může být přesnější odstraněním co největšího zkreslení, jak je to možné," řekl Firestorm’s Brown. Osoba v oblasti lidských zdrojů nebo poradce může minimalizovat emoční výbuchy člověka, například když říká, že se to děje pořád. Odpojovací počítač žádné takové výmluvy nedělá.

"Ale stále to vyžaduje lidský dotek, abychom to dotáhli k rozhovoru s touto osobou," řekl Brown. "Počítač neurčí, zda je třeba tuto osobu vyloučit, nebo zda potřebuje radu."

AI je nástroj, nikoli řešení

Všichni odborníci, s nimiž Digital Trends hovořili, pro tento příběh zdůraznili skutečnost, že AI je stále jen počátečním filtrem nebo nástrojem k zastavení budoucích střel na škole. Může generovat upozornění na ohrožené děti, ale nemůže sdělit pedagogům, jak, kdy nebo i kdyby měli zasáhnout. Školy stále potřebují vlastní tým odborníků - od učitelů, kteří studenty znají, až po psychology - a pravděpodobně je budou potřebovat i nadále.

"Statistiky ukazují, že s každou školní střelbou, která se stane, existuje vyšší pravděpodobnost, že se stane další školní střelba," řekl Lux.

Nakonec je nejdůležitějším faktorem lidský prvek. "Promluvte si s lidmi a požádejte o pomoc," řekl Albert. "Neboj se požádat o pomoc."