Дізнайтеся Про Свою Кількість Ангелів
Дизайн Лорен Парк
'Це буде підопічний?' це питання, яке так багато людей, особливо жінок, ставлять із почуттям страху, щоразу побачивши DM від незнайомця. Ну, нарешті, є додаток для цього занепокоєння, принаймні для ваших Твіттерів.
Натхнення для SafeDM , фільтр блокування вмісту, який зараз розробляється, з’явився, коли Келсі Бресслер виявила, що має справу з небажаними переслідуваннями цифрового сексуального характеру.
'[Це] була випадкова людина, яка хотіла привернути мою увагу', - говорить Бресслер. 'Вони запитали, чому ти ніколи не розмовляєш зі мною, а потім надіслали мені ... це. Думаю, я знаю, чому я не розмовляю з цією людиною '.
Досвід Бресслер з помстою порно також спонукав її боротися проти цього переслідування. З командою з трьох інших, вона працює над фільтром вмісту AI, навчаючи його розпізнавати фотографії хуя, інформувати про них користувача, а також видаляти їх із папки 'Вхідні'.
Дослідження показують, що 53 відсотки жінок від 18 до 29 років і приблизно 78 відсотків тисячолітніх жінок є повідомленнями про незатребувані явні зображення, багато з яких - хуйні фото.
«Якщо жінка не зазнала кіберпроблисків, вона знає когось, хто це зробив. Це щось настільки звичне, що у нас справді не було іншого рішення, крім як наказувати жінкам просто закрити DM, що, на мій погляд, не є правильним відповіддю », - говорить Бресслер. 'Це те, чим більшість жінок справді раді'.
Як ШІ дізнається, як виглядають фотографії з хуєм?
Ну, спасибі Вірусний твіт Бресслера у вересні , багато запитаних фотографій надсилаються на рахунок ShowYoDiq . (Деякі фотографії також, на жаль, помилково, і не помилково, надсилаються в особистий акаунт Бресслера в Twitter.) Діки, покриті блиском. Діки з шкарпетками на них. Пеніси в клітках - всі ці фотографії перевірені, щоб допомогти ШІ розпізнати, що робить хуй фото.
Твіт
Якщо це пеніс, SafeDM автоматично видалить зображення та відповість відправнику, сказавши, що надіслане було неприйнятним повідомленням, і повідомить користувача про кількість страйків.
'Ми не лаємо їх у повідомленні. Ми стверджуємо, що це був неприйнятний вміст. Ми працюємо над усіма багатослів’ями, а також підрахунком страйків, [який після] певної кількості страйків людині автоматично блокується повторний зв’язок з вами ».
Деякі потенційні користувачі заявили, що хотіли б самостійно блокувати порушників, а не автоматично робити SafeDM за них. Бресслер та її команда слухають відгуки зацікавлених у фільтрі.
'Це те, що хочуть користувачі. Ми намагаємось зробити речі максимально гнучкими, щоб люди могли змінювати ці налаштування », - говорить Бресслер. Після випуску фільтр та його налаштування будуть повністю функціонувати, але команда готова прийняти запитувані користувачем параметри після випуску для своїх кінцевих користувачів, зберігаючи основну функціональність.
Цей фільтр вмісту (попередньо) має бути випущений 14 лютого
Завдяки обсягу даних, що надаються охочими людьми, було досить багато тестувати, щоб допомогти фільтру вмісту визначити, що таке пеніс, а що, ну, це не просто фалічно виглядає шматок продукту. Це також допомогло команді досить швидко розробити фільтр, включаючи те, чи повинен фільтр вловлювати помилкові спрацьовування чи ні.
'Ми на 99 відсотків точні, хоча маємо помилкові спрацьовування', - говорить Бресслер. “Ми повинні дійти до того моменту, коли ми повинні вирішити, чи хочуть люди бачити пеніс як предмети, це теж переслідування? Навіть якщо [зображення] не є пенісом, фільтр все одно повинен його фільтрувати? Це справді повертається до того, що хоче користувач '.
Тестування Twitter SafeDm показало колосальний прогрес та точність, оскільки воно було оголошено у вересні, і все менше проникало через його фільтр вмісту AI. І люди, природно, роздумують про майбутній реліз. У дивовижному повороті Бресслер згадала, що деякі її улюблені люди, щоб отримувати повідомлення про фільтр, отримують тати, особливо тати з дочками.
'Вони раді, що я це роблю, але сумно, що це потрібно для початку. [У мене було кілька] тат [які] раді, що я працюю над цим, тому що у них є дочки, і вони не хочуть, щоб вони мали справу з цим '.
Кожен, хто має обліковий запис у Twitter, зможе скористатися фільтром блокування вмісту
'Вам не потрібна конкретна модель телефону', - пояснює Бресслер. «Це може використовувати будь-який обліковий запис Twitter. Це однаково працює в додатку та в Інтернеті '.
Кінцева мета проекту - повернути контроль спільноті, щоб їм не довелося жити в страху перед тим, що знаходиться в їхніх поштових скриньках Twitter.
партнер zazie beetz
'Забавно, як ти можеш щось витягнути із ситуації, яка неприємна, і трохи контролювати ситуацію, і зробити світ кращим'.
