Незважаючи на численні зусилля Facebook, поганим акторам якось завжди вдається просочитися через його запобіжні заходи та політику. Зараз соціальна мережа експериментує з новим способом підкріплення стін проти спаму та запобігання поганій поведінці, яка потенційно може порушити її гарантії: армія ботів.
Facebook заявляє, що розробляє нову систему ботів, яка може імітувати погану поведінку та стрес-тестувати свою платформу, щоб виявити будь-які недоліки та лазівки. Цих автоматизованих ботів навчають і навчають, як поводитися як справжня людина, використовуючи скарбниці моделей поведінки, які Facebook придбав у своїх понад двох мільярдів користувачів.
Щоб цей експеримент не заважав реальним користувачам, Facebook також створив своєрідну паралельну версію своєї соціальної мережі. Тут ботів розпускають і дозволяють їм розгулюватись - вони можуть обмінюватися повідомленнями, коментувати фіктивні дописи, надсилати запити на друзів, відвідувати сторінки тощо. Що ще важливіше, ці А.І. боти запрограмовані на імітацію екстремальних сценаріїв, таких як продаж наркотиків та зброї, щоб перевірити, як алгоритми Facebook намагаються їх запобігти.
Facebook стверджує, що ця нова система може розміщувати "тисячі або навіть мільйони ботів". Оскільки він працює на тому ж коді, який насправді відчувають користувачі, він додає, що "дії ботів відповідають ефектам, які могли б засвідчити реальні люди, які використовують платформу".
"Поки проект зараз перебуває на стадії лише досліджень, ми сподіваємося, що одного разу він допоможе нам вдосконалити наші послуги та виявити потенційні проблеми надійності та цілісності, перш ніж вони вплинуть на реальних людей, які користуються платформою". написав керівник проекту Марк Харман у дописі в блозі.
На даний момент незрозуміло, наскільки ефективним буде нове середовище моделювання Facebook. Як згадував Харман, це все ще на досить ранніх стадіях, і компанія ще не використала жодного з результатів для публічних оновлень. Протягом останніх кількох років соціальна мережа активно інвестувала та підтримувала дослідження на основі штучного інтелекту для розробки нових інструментів боротьби з переслідуваннями та спамом. На своїй щорічній конференції розробників два роки тому Марк Цукерберг оголосив, що компанія створює інструменти штучного інтелекту для боротьби з публікаціями, що містять терористичний контент, висловлювання ненависті, спам тощо.
