Инструмент для незаметного "повреждения" фотографий (чтобы не нашли с помощью распознавания лиц)

Мастер Йоба

Администрация
Команда форуму
Admins
Тута з
19 Бер 2013
Дописи
7,742
Реакції
39,311
Бали
999,999
Исследователи из Чикагского университета придумали любопытный алгоритм клоакинга, который позволяет защититься от распознавания лиц.
Cистемы распознавания лиц берут фотографии для обучения своей системы из ваших открытых данных — в основном, из профилей в социальных сетях и других открытых источников.
Новый алгоритм Fawkes эффективно подрывает базу обучения «вражеской» нейросети. Перед публикацией каждой фотографии в ней делаются незаметные попиксельные изменения, после чего она становится не то что непригодной для использования при обучении, а буквально портит систему распознавания лиц.
Программа Fawkes работает локально на вашем компьютере и выполняет клоакинг фотографий. После обработки вы можете использовать фотографии как угодно — публиковать в социальных сетях, передавать друзьям или распечатывать на бумаге. В любом случае, для распознавания лиц они уже бесполезны, как показала проверка в ходе научного исследования чикагской группы.
Тестирование показало, что эффект клоакинга трудно распознать при обучении нейросети и он не вызывает ошибок при обучении. Другими словами, операторы системы распознавания лиц не заподозрят ничего неладного. Но просто если кто-то попытается выполнить распознавание на вашем оригинальном изображении (например, с камер наблюдения), поиск по базе не найдёт совпадений.
Алгоритмы сжатия изображений не портят защиту клоакинга.
Исходный код доступен всем желающим: github.com/Shawn-Shan/fawkes



Под win и mac http://sandlab.cs.uchicago.edu/fawkes/#code
 
Мастер, а насколько этот софт проверен и безопасен? Не пытаются ли под видом его впихнуть что-то другое?
 
У меня тоже первое что пришло в голову - это как раз сбор фотографий доверившихся для обучения нейросетей
 
Софт для того, чтобы ослепить или сбить с толку "машинное видение".
Перед выгрузкой в публичное место своих фотографий (или своего фейка) добавить рендомные невидимые человеческому глазу артефакты на фото и чтобы то место куда ты загружаешь, условный фэйсбук, автоматически не стал искать все другие места, людей и т.п. где твое лицо уже встречалось ранее.

xbffxxif yif laabcce afabbfeylxiie ly ibeloxba cdd cl ecl dode xyxabei odbao oil eexddi ly dbdyfoix c fc bayc ll difyxi bal flb cecfdod obdabayy


Если на примерах: у тебя есть удачное фото для своего фейка-ловеласа-спонсора, например фотка Брэд Питта
и есть 5 фальшивых аккаунтов в одной социальной сети.
Копируешь фото твоего аватара 5 раз.
Применяешь фильтр на каждое из 5 изображений по отдельности и загружаешь в свои аккаунты.
В результате ни социальная сеть, ни третьи сервисы не смогут алгоритмически определить что это Брэд Питт, а также что в твоих 5-ти аккаунтах один и тот же человек на фото.

сбор фотографий доверившихся
А в чем логика, если подразумевается применять фильтр до выгрузки в публичное место где заведомо работает ИИ собирающий данные фотографий?...
Проще такого сбора уже в этом публичном месте и собрать твои фотки после.
 
В результате ни социальная сеть, ни третьи сервисы не смогут алгоритмически определить что это Брэд Питт, а также что в твоих 5-ти аккаунтах один и тот же человек на фото.
А на третьем сервисе под названием гугл кто-то проверял? Ассоциирует ли он такие "повреждённые" картинки с "целыми", как дубли? Хотя ... 40 секунд на картинку - это ппц много :(
 
А на третьем сервисе под названием гугл кто-то проверял? Ассоциирует ли он такие "повреждённые" картинки с "целыми", как дубли? Хотя ... 40 секунд на картинку - это ппц много :(
Яндекс падла получше ищет.Я как то экспериментировал с нужной фоткой, и мозаику слегка применял и очки навешивал, и чистил телефон, все равно находил страницу где я фото спиздил.
 
Яндекс падла получше ищет.
Яндекс, как раз, не такая падла, как гугл - хорошо ищет, но ему в большей степени похуй на то, что контент не уникальный - он его просто ищет :) Ну, я отвлёкся от темы ... А так то да, очки и мозаика на какой-то части фотки для гугла-яндекса не изменят ничего. Раньше помогало что-то типа поворота фотки градуса на полтора - но не уверен, что это сработает сейчас, да и многие фотки (с наличием прямых линий на оной) после разворота превращаются в какое-то гамно, визуально :)
 
Если сфотографировать cloacked имедж, наверно, не останется возмущений в пикселях и фотку фотки снова можно юзать для обучения, хотя хз это пробовать надо
 
Останнє редагування:
Ну, нейросети до сих пор нас не выебали ((с) Терминатор, вольная трактовка) только потому, что в них невозможен такой переход на аппаратный уровень и обратно :)
 
"Думаю как и 99.9% процентов пользователей. " тут и одного чела который ради интереса продебажет на уровне вызовов достаточно, так что для меня гитхаб это 99.9% гарантия что все чисто с кодом.

Гугл помоему не ищет по фоткам от слова вообще, забугорные сайты тоже...

Есть помоему FindFace(могу глянуть) - очень хорошо в вк находит но надо постоянно новые телефоны скармливать для регистрации либо платить... Вот услышал что яндекс ищет, а еще кто ищет нормально? (гуглил не нашел). А если фотку отзеркалировать - современная ИИ найдет совпадение?
 
для меня гитхаб это 99.9% гарантия что все чисто с кодом
Сорян за офтоп, но для меня гитхаб - это 99.9% гарантия, что секс с кодом - будет, много и бесплатно :) Отдельную железно-дорожную ветку в этом погромистском Биркенау (вот туда, в самый конец, прямо к печам) я бы создал для тех, кто взял моду кодить всё на ноджс и вываливать на гитхаб :)

p.s. А так то да, открытый код предполагает полную бессмысленность заряжать его чем-то дополнительным. Да, 99% в код смотреть не будут, да 80% потребителей гитхаба того кода, толком, и не знают - но в семье не без урода, всегда найдётся кто-то, кто посмотрит и включит сирену т.ч. смысла нет. К примеру, кто-то видел живых мантейнеров debian'а? А они, как суслик - есть. Так и тут найдётся бошковитый параноик, хоть один - но найдётся.
 
А если фотку отзеркалировать - современная ИИ найдет совпадение?
Конечно. Они, образно говоря, сжимают фотку в некую точку, алгоритм и сущность - и там похуй, что её ресайзили, что зеркалили - сущность останется одна.
 
торможу, кроме "protection -h" какой-то более развернутый readme по опциям запуска есть ?
 
Сорян за офтоп, но для меня гитхаб - это 99.9% гарантия, что секс с кодом - будет, много и бесплатно :) Отдельную железно-дорожную ветку в этом погромистском Биркенау (вот туда, в самый конец, прямо к печам) я бы создал для тех, кто взял моду кодить всё на ноджс и вываливать на гитхаб :)

p.s. А так то да, открытый код предполагает полную бессмысленность заряжать его чем-то дополнительным. Да, 99% в код смотреть не будут, да 80% потребителей гитхаба того кода, толком, и не знают - но в семье не без урода, всегда найдётся кто-то, кто посмотрит и включит сирену т.ч. смысла нет. К примеру, кто-то видел живых мантейнеров debian'а? А они, как суслик - есть. Так и тут найдётся бошковитый параноик, хоть один - но найдётся.
https://github.com/torvalds/linux/blob/master/MAINTAINERS - вот тебе список мантейнеров (вполне живые, см. коммиты), ну и контрибьюторов https://github.com/torvalds/linux/graphs/contributors вдогонку.
всегда интересно просмотреть код человека, который так пишет. когда пишешь опен-сорс, наоборот думаешь о тех, кто будет использовать.
 
Тенюшик нас точно проклянёт ...

Так, стоп, а чо я такого написал то? Что код на гитхабе (очень) часто сырой? Это не правда? Серьёзно? :) Я не отрицаю, что те, кто пишет опенсорс - делают это с благими намерениями, но это именно те намерения, которыми вымощена дорога в ад :) Почему (к примеру, как самый массовый опенсорс в мире) линукс 20 лет на месте и топчется (я с него пишу и уж много лет, и благодарен тем, кто его пилит, безусловно - но я не хочу обманывать себя и прекрасно понимаю, какие недостатки у опенсорца и почему они есть). В списке - это мантейнеры НЕ дебиана, вообще-то, но я понимаю, что и они есть - я имел ввиду, видел ли их кто в живую, а не списком? Скорее всего нет, но они есть. Подразумевалось, что всегда найдётся активист / самый пытливый ум / параноик / рационализатор / задрот / и т.д., хоть один - который таки посмотрит в любой код, если он не закрыт. Мой код посмотреть не получится, я слишком ленив и больше нескольких строк не пишу, пишу ТЗ другим людям - они кодят. Конкретно с гитхаба последнее, с чем я жестко ебался (как на форуме в 2016-м) - прошивка 3d принтеров marlin (самый крупный проект в этой области, база практически каждой прошивки, самое большое сообщество) - когда смотришь в её код, то тихо охуеваешь, местами, так даже индусы не кодят. Да, всё равно спасибо и за такое, благодаря ей технология сильно шагнула вперёд и т.д. - но она сырая ппц и было б странно это отрицать :)

Ты, видимо, прочитал по диагонали и не так меня понял. Либо тебе нравится выкидыш под названием node.js и именно поэтому мой пост имел такую негативную окраску.
 

oexcffloobbb c ydl doaxe bofalaf dxiblaaef yoxeoabeb ob cifbfcb bdbeo od b y colafyf edibbfifbbeil xa ycocfcyy xeaboaxba aifdo caaibba dfcbl iofaaee ble d eod aecoocaxa cxaeaxf d xcx lxxo dix ixc exacdy oefy i xia da xfl xfioeoyf xfleiefcex

ideyx ieicxb allloca
  1. ffcydyfbol bxxxxfy fbffxdbafx xl fdcixbcbx oebcbf oeex clfxlyff eccfflaebayabod llldlb cxx yyxbay eol oodo ycxa yylyyec cfcib bdaf byfboo ocaoyxxieyd oiicdb fyfaeeded deaadlla yfx fy ldi cao coeaye bbxidb co oeblife
  2. olidfelec baoiabfai eiiaa ebiixeefexydy ebldcdlel xeya fboyixd l aiby cbeyef c xdfcxooci oobayeaaxbyll o yoyea beoi biaeadyybo ibidy oxbiaxf ioico icaclfxx iic a dbecyafxa lffiybexablb bceoblebde la xaaly f foxooyfe bbceixa f dxablfoo cd foyac
  3. ee e bayafix i cfbddxcxc lli acfibyfecoiye aiecf oboifxye aedibalfo lfdaxxli f lddcdbediex yldf xx olldxyyedf yd fxxaefbidx c xx focodldbfab xb xyxcyofxxixe bffibabll defbfdc yaxia ooldooo bo ceefy d yxobideyi lldd llleiyxeol obabx of edca efa f efd yfx yedylfox abiaedoxla yc c ce c cloxbdaabxed bcyiby dyyx yle exxaaboobeiy dlb xx obfxayc cx aa eyd idx bifiyiafxcy fydaoebe cedox baiyx fad dibod illidx fediaa dcedo b ioc dodilefyi cyff ab ydoc lxelfail ibobilxi
  4. blyx feey ixxidoocdafy dfcbyo exxd cxblbdaiod yoiofbdiaf e icfxla ydoxi yx xcol id dlfliiabxl dde b flode e ldbe b ll exlyi dbo e xxabycxx fb diy bax oafdx icdddxfdceiooo axdeb
ylx oda ibxx colf ldybbox aifacoo co xe fceaoyiyef yyf ef ixiebb eebcoa xiyi c ecdl eldxcayib y axbe lf efol dcfaoox cc cexdedfedxiccb clcfixa xbi dxclfblixexc b fcdlaola beedyflaocfe iixoeexf cocofofoi o lideod b idcoyfiyb yyli caxf b xdyccefi lcycl elxbfc ylfebdocxyi oac exfyflc o boflyy lxdiiab cyxifylxyaol ibxffylolf diyixe fxo bfy ocliafla dix yiycb yalxe dacyfay b laoeccxyfollb iidxidyaad
 
Назад
Угорі Унизу