Зображення користувача Олена Каганець.
Олена Каганець
  • Відвідувань: 0
  • Переглядів: 0

Створили додаток Fawkes для маскування світлин від нейромереж

Сучасні нейромережі навчені розпізнавати людей на фото та знаходити їх у соцмережах. Такою можливістю володіє стартап Clearview. Він зібрав мільярди фотографій, щоб створити інструмент для поліції, який видає обліковий запис у Facebook, розкриваючи особистість людини. Тепер дослідники намагаються перешкодити цим системам.

Команда комп’ютерних інженерів з Чиказького університету розробила інструмент Fawkes, що маскує фотографії зі змінами на рівні пікселів, які плутають системи розпізнавання осіб, пише Pingvin. Pro.

Інструмент названий на честь маски Ґая Фокса, якою користуються протестувальники в усьому світі. Це програмне забезпечення було доступно для розробників на сайті дослідників минулого місяця. Згодом його завантажили понад 50 000 разів. Дослідники працюють над безкоштовною версією програми для не кодувальників, яку сподіваються зробити доступною найближчим часом.

За словами дослідників, їхня програма здатна маскувати знімок на рівні окремих пікселів, замінюючи певні ключові точки зображення фрагментами інших фотографій. Для заміни використовуються фрагменти архівних фотографій, які максимально неподібні на оригінал. Для людського ока ці зміни будуть непомітними. Проте, для нейромереж картинка буде дуже зміненою, а вони не зможуть її ідентифікувати. Зазначається, що Fawkes вже вдалося обдурити системи пошуку Amazon, Microsoft і китайську Megvii. Надалі ПЗ зможе протистояти й алгоритмам Clearview.

Зараз розробники працюють над вдосконаленням системи. Вони сподіваються, що в майбутньому люди зможуть обробляти свої фото для завантаження в Інтернет завдяки їхньому додатку. А якщо впровадити такий інструмент у велику платформу, на кшталт соціальної мережі, що має доступ до великої кількості зображень, такі як Clearview не зможуть створювати бази даних з особистими фотографіями користувачів.

Наші інтереси: 

Розвиток засобів атаки завжди викликає засоби оборони.

Якщо ви помітили помилку, то виділіть фрагмент тексту не більше 20 символів і натисніть Ctrl+Enter
Підписуюсь на новини

Зверніть увагу

Ласкаво просимо до церкви програмістів Aryan Softwerk

Стартап Aryan Softwerk запрошує ІТ-фахівців спільноти Народний Оглядач до освоєння ринку самоорганізації арійських церков

Метою «церкви програмістів» Aryan Softwerk є колективне досягнення Царства божого шляхом розробки софту для самоорганізації шляхетних духовних демосів – арійських церков. Розробка церковного софту –...

Останні записи