Неповнолітні можуть використовувати новий інструмент NCMEC «Take It Down», щоб позначати відвертий матеріал про себе, який був або який, на їхню думку, буде поширений в Інтернеті.
Getty Images
Meta фінансує національні зусилля, спрямовані на те, щоб допомогти дітям і підліткам видалити їхні оголені зображення або зображення сексуального характеру з соціальних мереж. Чи може перехід самого гіганта до наскрізного шифрування стати на заваді?
TНаціональний центр для зниклих і експлуатованих дітей запустив платформу, фінансовану Meta, щоб допомогти дітям і підліткам видаляти свої оголені або сексуальні фотографії та відео з соціальних мереж.
Нова послуга для неповнолітніх дзвонить Зняти це, було представлено через рік після випуску подібного інструменту для дорослих, відомого як StopNCII (скорочення від non-consensual intimage imagery). Сьогодні Take It Down працюватиме лише на п’яти платформах, які погодилися брати участь: Facebook і Instagram, що належать Meta, а також Yubo, OnlyFans і Pornhub.
«Ми створили цю систему, тому що багато дітей стикаються з такими безвихідними ситуаціями», — сказала президент і генеральний директор NCMEC Мішель ДеЛон. «Ми сподіваємося, що діти дізнаються про цей сервіс і відчують полегшення, оскільки існують інструменти, які допомагають знімати зображення».
Те, як компанії соціальних медіа захищають дітей і підлітків — і де вони не вистачають — стало головним питанням двопартійної технологічної політики в новому Конгресі, і законодавці мають найкращі шанси прийняти законодавство. Тим не менш, попереду ще довгий шлях для будь-яких пропозицій щодо створення або посилення гарантій, і оскільки закони не заплановані, NCMEC продовжує діяти як міст між онлайн-компаніями та правоохоронними органами з питань безпеки дітей. У 2021 році некомерційна організація отримала майже 30 мільйонів порад з усієї галузі про явне сексуальне здирство та матеріали про сексуальне насильство над дітьми на своїх платформах. Більшість повідомили про платформи, що належать Meta.
Користуватися можуть неповнолітні та батьки Безкоштовний анонімний інструмент NCMEC позначати відвертий матеріал неповнолітньої особи, який був або, на їхню думку, буде поширений в Інтернеті. Після того, як вони вибрали конфіденційні фотографії чи відео на своєму пристрої, платформа генерує еквівалент цифрового відбитка цієї фотографії (так званий «хеш»), яким NCMEC ділиться із залученими сайтами соціальних мереж, щоб вони могли спробувати знайти, обмежити або видалити та продовжувати стежити за цим вмістом.
Відповідно до NCMEC, фото чи відео, про які йдеться, не залишають пристрій і ніхто не переглядає. (Хеш також не дозволяє ідентифікувати жертв як для NCMEC, так і для програми соціальних мереж, сигналізуючи лише про те, що зображення є шкідливим і його слід видалити.) NCMEC заявив, що не було відомих порушень його хеш-бази даних, які потенційно могли б розкрити особу особи. .
Але однією з найбільших перешкод для цих зусиль є зростання наскрізного шифрування. «Коли технологічні компанії впроваджують наскрізне шифрування без вбудованих профілактичних заходів для виявлення відомого матеріалу про сексуальне насильство над дітьми, вплив на безпеку дітей є руйнівним», — сказав ДеЛаун, президент NCMEC, на слуханнях у Сенатському комітеті з правових питань цього місяця. . Слон у кімнаті полягає в тому, що фінансовий спонсор і найвідоміша компанія, яка бере участь у Take It Down, Meta, рух кліпу до наскрізного шифрування як в Instagram, так і в Messenger.
Як дві організації можуть узгодити це – «питання на мільйон доларів», – сказав віце-президент NCMEC Гевін Портной. Forbes, зазначивши, що NCMEC досі точно не знає, які плани Meta щодо шифрування та які гарантії можуть бути встановлені. (Мета повідомила, що над ними триває робота і що різні функції шифрування тестуються в Instagram і Messenger.)
«Ми створюємо Take It Down відповідно до того, як сьогодні розташовані Інтернет і [постачальник електронних послуг]», — сказав Портной. «Це справді міст, який нам доведеться подолати, коли ми краще зрозуміємо, як виглядає середовище наскрізного шифрування [Meta] — і чи існує світ, у якому Take It Down може працювати».
Про це повідомила глобальний керівник служби безпеки Meta Антігона Девіс Forbes що «шифрування призведе до того, що ми не розпізнаємо певні зображення», але воно стає галузевим стандартом обміну повідомленнями, що є життєво важливим для конфіденційності та безпеки користувачів. За її словами, використання хеш-технології та підтримка NCMEC у таких проектах, як цей, є одними з кількох способів, якими Meta намагається «по-справжньому впоратися з проблемою». (Обидві сторони відмовилися повідомити, скільки грошей Meta дала NCMEC на створення Take It Down.)
«Немає панацеї для вирішення цих проблем», — сказав Девіс в інтерв’ю, описуючи підхід Meta як «багатогранний». За її словами, на додаток до співпраці над цією новою системою, спрямованою на запобігання сексуальному вимаганню та розповсюдженню інтимних зображень без згоди, Meta не дозволяє дорослим незнайомцям спілкуватися з неповнолітніми за допомогою своїх функцій обміну повідомленнями. Він також використовує класифікатори, щоб запобігти передачі облікових записів і вмісту неповнолітніх дорослим користувачам Meta, які демонстрували підозрілу поведінку в Інтернеті, додала вона.
«Я сподіваюся, що люди, які в дитинстві ділилися подібними фотографіями з кимось — батьком, який їх експлуатував, іншим дорослим, який їх експлуатував, колишнім хлопцем чи дівчиною, — їм буде цікаво скористайтеся цим інструментом", - сказав Девіс.
NCMEC сказав, що він розкинув деякі 200 інших постачальників електронних послуг які надіслали інформацію до свого “CyberTipline” про приєднання до програми Take It Down. Залишається побачити, хто ще, крім невеликої купки гравців соціальних медіа, які сьогодні відстоюють це, потрапить на борт. Yubo, зі свого боку, висловив надію, що ці перші користувачі підштовхнуть інших приєднатися.
«Щоб зменшити ризики та вирішити проблеми в Інтернеті, потрібне більше, ніж просто державне втручання», — сказав генеральний директор Yubo Саша Лазімі електронною поштою. «Всі актори повинні грати свою роль. … Співпраця є ключовою для пошуку рішень для великих проблем, тому ми сподіваємося, що більше платформ приєднаються до ініціативи Take It Down».
Джерело: https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/