У світлі нещодавніх смертоносних стрілянин у школах у Сполучених Штатах освітяни, батьки та експерти з питань безпеки шукають технології, які допоможуть вирішити проблему. На перший план виходить використання штучного інтелекту.
"Наша мета - переконатись, що дитина ніколи не хоче брати з собою пістолет у школу", - сказала Сьюзі Лафлін, співзасновник та головна рада Firestorm, компанії з управління кризисними ситуаціями. З цією метою у співпраці зі Школою безперервної освіти Університету Алабами компанія розробила програму профілактики, яка розглядає ознаки раннього попередження у дітей, які можуть загрожувати вчиненню в майбутньому насильницьких дій.
Названа BERTHA, в рамках Програми оцінки поведінкових ризиків, ідея виникла в результаті масової стрілянини в Virginia Tech, коли було вбито 32 людини - одне з найбільш смертоносних в історії США. Лютнева стрілянина в середній школі Марджорі Стоунмена Дугласа в Паркленді, штат Флорида, внаслідок якої загинуло 17 людей, привернула більше уваги до цієї проблеми, що було ще раз підкреслено в травні, під час стрілянини в середній школі Санта-Фе в Техасі, де було вбито 10 учнів та викладачів.
Жертви шкільної стрілянини з 1989 року, Джерело: Мати Джонс
| Інцидент | Смертельні випадки | Поранений | Всього жертв | Рік |
| Зйомки в середній школі Санта-Фе (Санта-Фе, штат Техас) | 10 | 13 | 23 | 2018 |
| Зйомки середньої школи Марджорі Стоунман Дуглас (Паркленд, Флорида) | 17 | 14 | 31 | 2018 |
| Зйомки в Громадському коледжі Umpqua (Розбург, Орегон) | 9 | 9 | 18 | 2015 |
| Зйомки в середній школі "Мерісвілл-Пілчук" (Мерісвілл, Вашингтон) | 5 | 1 | 6 | 2014 |
| Масове вбивство на острові Ісла-Віста (Санта-Барбара, Каліфорнія) | 6 | 13 | 19 | 2014 |
| Елементарна різанина над Сенді Хуком (Ньютаун, Коннектикут) | 27 | 2 | 29 | 2012 |
| Вбивства в університеті Ойкос (Окленд, Каліфорнія) | 7 | 3 | 10 | 2012 |
| Зйомки в університеті Північного Іллінойсу (ДеКалб, штат Іллінойс) | 5 | 21 | 26 | 2008 |
| Різанина у Вірджинії (Блексбург, Вірджинія) | 32 | 23 | 55 | 2007 |
| Школа стрілянини амішів (округ Ланкастер, Пенсільванія) | 6 | 5 | 11 | 2006 |
| Різанина на Червоному озері (Червоне озеро, штат Міннесота) | 10 | 5 | 15 | 2005 |
| Різанина середньої школи Коламбіна (Літтлтон, Колорадо) | 13 | 24 | 37 | 1999 |
| Зйомки в середній школі Терстона (Спрингфілд, Орегон) | 4 | 25 | 29 | 1998 |
| Вбивства середньої школи в Вестсайді (Джонсборо, Арканзас) | 5 | 10 | 15 | 1998 |
| Ліндхерстська середня школа (Олівхерст, Каліфорнія) | 4 | 10 | 14 | 1992 |
| Університет штату Айова (Айова-Сіті, штат Айова) | 6 | 1 | 7 | 1991 |
| Зйомка шкільного двору Стоктона (Стоктон, Каліфорнія) | 6 | 29 | 35 | 1989 |
Програма оцінки ризику задумана як мережа безпеки для лову дітей, яким може знадобитися допомога та втручання до того, як вони стануть суїцидальними чи жорстокими. Як було продемонстровано після кожного попереднього інциденту, адміністратори, батьки та студенти задаються питанням, чому раніше не були помічені ранні попереджувальні знаки, такі як кібер-знущання, натяки на зброю та згадки про стрілянину в Коламбіні в Колорадо в 1999 році.
Використання ШІ для пошуку підказок
Проблема полягала в труднощах перебирання гір даних, що генеруються на форумах та в акаунтах соціальних мереж, щоб знайти ті декілька голок, які можуть попередити шкільного радника чи психолога про те, що дитина потрапила в біду. Отже, щоб відфільтрувати такі підказки в Інтернеті, адміністратори залучають засоби штучного інтелекту.
"Наша мета - переконатись, що дитина ніколи не хоче брати з собою пістолет у школу".
"Ми - компонент ШІ", - пояснила Міна Люкс, засновник та генеральний директор компанії "Meelo Logic" із Нью-Йорка. Її компанія працює над програмою BERTHA з Firestorm, щоб здійснити первинне важке підйому сортування через те, що стало відомим як великі дані. "Ми націлені на автоматизацію знань для розуміння контексту".
Програмне забезпечення Meelo може відстежувати коментарі та публікації до їх першоджерела. Компанія називає цей процес причинно-наслідковим міркуванням, але це більше аналогічно пошуку нуля пацієнта, оригінальної особи, щодо якої хтось інший міг висловити занепокоєння.
"Зазвичай в Інтернеті відбувається початковий спалах, і вони цілеспрямовано роблять це загальнодоступним - це може бути заклик про допомогу", - пояснив Харт Браун, головний оперативний директор Firestorm. "І у 80 відсотках випадків принаймні ще одна людина знає, так що навіть якщо перший пост приватний, хтось інший, швидше за все, зробить його загальнодоступним".
Програма ШІ забезпечує початковий скринінг на основі використовуваних сленгових термінів, контексту, місця розташування та пов’язаних посилань. Потім активуйте інформаційну панель BERTHA на Firestorm для можливого втручання. Саме тут люди - консультанти, вчителі, психологи - втручаються, щоб оцінити, чи існує реальна загроза, чи потрібна дитині додаткова увага, оскільки вона проявляє гнів чи схильність до суїциду, або якщо діяльність є доброякісною.
Проблема полягала в труднощах перебирання гір даних, що генеруються на форумах та в соціальних мережах.
"Але ніхто не несе відповідальності за прийняття рішення", - сказала Бренда Truelove, адміністратор програми в Університеті штату Алабама, яка працює з Firestorm над програмою та пов'язаною з нею програмою електронного навчання для вчителів по всій країні. "Одна людина може щось пропустити, тому команда людей вирішує, що робити".
Truelove зазначив, що програма ґрунтується на досвіді вчителів, судових психологів та інших експертів, щоб створити формулу для подолання потенційних криз.
Чи означає підвищена безпека менше приватності?
Хоча потенціал ШІ у запобіганні майбутніх розстрілів у школі може бути багатообіцяючим, таке відстеження та аналіз даних викликають неминучі занепокоєння щодо конфіденційності та точності, а також те, чи безпека перевершує будь-які проблеми.
Брайс Альберт, учень дев’ятого класу середньої школи Марджорі Стоунман Дуглас, знаходився в коридорі третього поверху, коли стрілець почав стріляти по учнів. Коли Альберт побачив, як вбивця спускався по коридору, вчитель впустив Альберта до класу, і він вижив. Після цього досвіду у нього змінилася думка про конфіденційність.
Пожежа "Раніше я говорив:" Не вдавайся в мої речі ", - сказав Альберт Digital Trends про владу, яка відстежує використання соціальних мереж. "Але зараз я повністю передумав".
Meelo’s Lux наголосив, що програми ШІ не мають доступу до жодних приватних облікових записів; вся інформація є загальнодоступною. Loughlin з Firestorm підкреслили той факт, що вони не збирають і не зберігають дані самі. Він підтримується окремими школами, які вже мають досвід ведення обліку учнів. (Firestorm бере плату за ліцензію в розмірі 2500 доларів за школу, в той час як Університет Алабами пропонує безкоштовний онлайн-курс для викладачів штату Алабама K-12. Школи також можуть безкоштовно працювати над власними проектами раннього попередження, використовуючи базову формулу дев’яти кроків Firestorm для створення таких програм.)
Люкс визнає, що мовні тонкощі, такі як сарказм, можуть виявитися складними для будь-якого дослідження ШІ. Meelo зосереджується на текстовому аналізі, а не на аналізі зображень, які вивчають інші компанії зі штучним інтелектом, такі як Cortica. Тим не менше, є місце для неправильного тлумачення навіть для людей-учасників.
"Важко отримати емоції через текстові повідомлення", - визнав Альберт.
З іншого боку, безпристрасна програма не відтворює вибране і не ігнорує ті емоційні зміни чи зміни поведінки, які можуть свідчити про те, що попереду проблеми.
ШІ все ще є лише початковим фільтром або інструментом для зупинки майбутніх шкільних зйомок.
"Зрештою, це може бути точніше, усунувши якомога більше упереджень", - сказав Браун "Firestorm". Людина з питань персоналу або консультант може звести до мінімуму емоційні спалахи людини, наприклад, сказавши, що це відбувається постійно. Комп’ютер, що не мигає, не виправдовується.
"Але все одно потрібен людський контакт, щоб прослідкувати та взяти інтерв'ю у цієї людини", - сказав Браун. "Комп’ютер не визначить, чи потрібно цю людину виганяти, чи їй потрібна консультація".
ШІ - це інструмент, а не рішення
Усі експерти, з якими спілкувалися Digital Trends, підкреслювали той факт, що ШІ все ще є лише початковим фільтром або інструментом для зупинки майбутніх шкільних зйомок. Це може генерувати попередження про дітей, які перебувають у групі ризику, але не може повідомляти вихователям, як, коли і навіть якщо вони повинні втручатися. Школам все ще потрібна власна команда експертів - від викладачів, які знають учнів, до психологів - і вони, ймовірно, будуть і надалі потрібні.
"Статистика показує, що з кожною шкільною стріляниною є більша ймовірність ще однієї шкільної стрілянини", - сказав Люкс.
Зрештою, людський елемент є найважливішим фактором. "Поговоріть з людьми і попросіть про допомогу", - сказав Альберт. "Не бійтеся просити про допомогу".
