Инструмент для незаметного "повреждения" фотографий (чтобы не нашли с помощью распознавания лиц)

Мастер Йоба

Команда форума
Создатель
Регистрация
19 Мар 2013
Сообщения
7.575
Реакции
31.903
Исследователи из Чикагского университета придумали любопытный алгоритм клоакинга, который позволяет защититься от распознавания лиц.
Cистемы распознавания лиц берут фотографии для обучения своей системы из ваших открытых данных — в основном, из профилей в социальных сетях и других открытых источников.
Новый алгоритм Fawkes эффективно подрывает базу обучения «вражеской» нейросети. Перед публикацией каждой фотографии в ней делаются незаметные попиксельные изменения, после чего она становится не то что непригодной для использования при обучении, а буквально портит систему распознавания лиц.
Программа Fawkes работает локально на вашем компьютере и выполняет клоакинг фотографий. После обработки вы можете использовать фотографии как угодно — публиковать в социальных сетях, передавать друзьям или распечатывать на бумаге. В любом случае, для распознавания лиц они уже бесполезны, как показала проверка в ходе научного исследования чикагской группы.
Тестирование показало, что эффект клоакинга трудно распознать при обучении нейросети и он не вызывает ошибок при обучении. Другими словами, операторы системы распознавания лиц не заподозрят ничего неладного. Но просто если кто-то попытается выполнить распознавание на вашем оригинальном изображении (например, с камер наблюдения), поиск по базе не найдёт совпадений.
Алгоритмы сжатия изображений не портят защиту клоакинга.
Исходный код доступен всем желающим: github.com/Shawn-Shan/fawkes



Под win и mac http://sandlab.cs.uchicago.edu/fawkes/#code
 

Юзер

Первый Модератор
Команда форума
Член Собраний
Элита Дозора
MAXIMUM
Дозорный
Регистрация
19 Мар 2013
Сообщения
4.783
Реакции
42.515
Мастер, а насколько этот софт проверен и безопасен? Не пытаются ли под видом его впихнуть что-то другое?
 

Тролль

Гуру Пикапа
Команда форума
Член Собраний
Элита Дозора
MAXIMUM
Регистрация
7 Авг 2013
Сообщения
2.871
Реакции
21.661
У меня тоже первое что пришло в голову - это как раз сбор фотографий доверившихся для обучения нейросетей
 

Мастер Йоба

Команда форума
Создатель
Регистрация
19 Мар 2013
Сообщения
7.575
Реакции
31.903

Тролль

Гуру Пикапа
Команда форума
Член Собраний
Элита Дозора
MAXIMUM
Регистрация
7 Авг 2013
Сообщения
2.871
Реакции
21.661

Мастер Йоба

Команда форума
Создатель
Регистрация
19 Мар 2013
Сообщения
7.575
Реакции
31.903
Софт для того, чтобы ослепить или сбить с толку "машинное видение".
Перед выгрузкой в публичное место своих фотографий (или своего фейка) добавить рендомные невидимые человеческому глазу артефакты на фото и чтобы то место куда ты загружаешь, условный фэйсбук, автоматически не стал искать все другие места, людей и т.п. где твое лицо уже встречалось ранее.

🔑 Войдите в свой аккаунт чтобы увидеть зашифрованное содержимое:
чвэёйичэььи иии эиьэььи эaивэёйиьичис-к, ьи ь-кэчвэёйч, иьь ьь иээ 99.9 сиииaьэ ччкчи ивэёйэ кэь-ич эи вэёйи-aььсэ ь ьэ ььы- ьэ вэёйи-ьэи кьa ь-вэёй вэёйьичьээ ь-эикьич


Если на примерах: у тебя есть удачное фото для своего фейка-ловеласа-спонсора, например фотка Брэд Питта
и есть 5 фальшивых аккаунтов в одной социальной сети.
Копируешь фото твоего аватара 5 раз.
Применяешь фильтр на каждое из 5 изображений по отдельности и загружаешь в свои аккаунты.
В результате ни социальная сеть, ни третьи сервисы не смогут алгоритмически определить что это Брэд Питт, а также что в твоих 5-ти аккаунтах один и тот же человек на фото.

сбор фотографий доверившихся
А в чем логика, если подразумевается применять фильтр до выгрузки в публичное место где заведомо работает ИИ собирающий данные фотографий?...
Проще такого сбора уже в этом публичном месте и собрать твои фотки после.
 

Hedo Masta

Дозорный
Регистрация
14 Янв 2014
Сообщения
1.679
Реакции
8.331
Возраст
44
Спонсор до 17-11-2020
В результате ни социальная сеть, ни третьи сервисы не смогут алгоритмически определить что это Брэд Питт, а также что в твоих 5-ти аккаунтах один и тот же человек на фото.
А на третьем сервисе под названием гугл кто-то проверял? Ассоциирует ли он такие "повреждённые" картинки с "целыми", как дубли? Хотя ... 40 секунд на картинку - это ппц много :(
 

cantexnik

Элита Дозора
MAXIMUM
Регистрация
21 Фев 2015
Сообщения
1.558
Реакции
10.582
А на третьем сервисе под названием гугл кто-то проверял? Ассоциирует ли он такие "повреждённые" картинки с "целыми", как дубли? Хотя ... 40 секунд на картинку - это ппц много :(
Яндекс падла получше ищет.Я как то экспериментировал с нужной фоткой, и мозаику слегка применял и очки навешивал, и чистил телефон, все равно находил страницу где я фото спиздил.
 

Hedo Masta

Дозорный
Регистрация
14 Янв 2014
Сообщения
1.679
Реакции
8.331
Возраст
44
Спонсор до 17-11-2020
Яндекс падла получше ищет.
Яндекс, как раз, не такая падла, как гугл - хорошо ищет, но ему в большей степени похуй на то, что контент не уникальный - он его просто ищет :) Ну, я отвлёкся от темы ... А так то да, очки и мозаика на какой-то части фотки для гугла-яндекса не изменят ничего. Раньше помогало что-то типа поворота фотки градуса на полтора - но не уверен, что это сработает сейчас, да и многие фотки (с наличием прямых линий на оной) после разворота превращаются в какое-то гамно, визуально :)
 

AngryBird

Дозорный
Регистрация
20 Июн 2017
Сообщения
1.142
Реакции
5.436
Если сфотографировать cloacked имедж, наверно, не останется возмущений в пикселях и фотку фотки снова можно юзать для обучения, хотя хз это пробовать надо
 
Последнее редактирование:

Hedo Masta

Дозорный
Регистрация
14 Янв 2014
Сообщения
1.679
Реакции
8.331
Возраст
44
Спонсор до 17-11-2020
Ну, нейросети до сих пор нас не выебали ((с) Терминатор, вольная трактовка) только потому, что в них невозможен такой переход на аппаратный уровень и обратно :)
 

Свояк

Дозорный
Регистрация
6 Май 2020
Сообщения
263
Реакции
1.399
Возраст
33
"Думаю как и 99.9% процентов пользователей. " тут и одного чела который ради интереса продебажет на уровне вызовов достаточно, так что для меня гитхаб это 99.9% гарантия что все чисто с кодом.

Гугл помоему не ищет по фоткам от слова вообще, забугорные сайты тоже...

Есть помоему FindFace(могу глянуть) - очень хорошо в вк находит но надо постоянно новые телефоны скармливать для регистрации либо платить... Вот услышал что яндекс ищет, а еще кто ищет нормально? (гуглил не нашел). А если фотку отзеркалировать - современная ИИ найдет совпадение?
 

Hedo Masta

Дозорный
Регистрация
14 Янв 2014
Сообщения
1.679
Реакции
8.331
Возраст
44
Спонсор до 17-11-2020
для меня гитхаб это 99.9% гарантия что все чисто с кодом
Сорян за офтоп, но для меня гитхаб - это 99.9% гарантия, что секс с кодом - будет, много и бесплатно :) Отдельную железно-дорожную ветку в этом погромистском Биркенау (вот туда, в самый конец, прямо к печам) я бы создал для тех, кто взял моду кодить всё на ноджс и вываливать на гитхаб :)

p.s. А так то да, открытый код предполагает полную бессмысленность заряжать его чем-то дополнительным. Да, 99% в код смотреть не будут, да 80% потребителей гитхаба того кода, толком, и не знают - но в семье не без урода, всегда найдётся кто-то, кто посмотрит и включит сирену т.ч. смысла нет. К примеру, кто-то видел живых мантейнеров debian'а? А они, как суслик - есть. Так и тут найдётся бошковитый параноик, хоть один - но найдётся.
 

Hedo Masta

Дозорный
Регистрация
14 Янв 2014
Сообщения
1.679
Реакции
8.331
Возраст
44
Спонсор до 17-11-2020
А если фотку отзеркалировать - современная ИИ найдет совпадение?
Конечно. Они, образно говоря, сжимают фотку в некую точку, алгоритм и сущность - и там похуй, что её ресайзили, что зеркалили - сущность останется одна.
 

Свояк

Дозорный
Регистрация
6 Май 2020
Сообщения
263
Реакции
1.399
Возраст
33
торможу, кроме "protection -h" какой-то более развернутый readme по опциям запуска есть ?
 

Петятрататрата

MAXIMUM
Спонсор
Регистрация
10 Ноя 2015
Сообщения
29
Реакции
302
Возраст
30
Сорян за офтоп, но для меня гитхаб - это 99.9% гарантия, что секс с кодом - будет, много и бесплатно :) Отдельную железно-дорожную ветку в этом погромистском Биркенау (вот туда, в самый конец, прямо к печам) я бы создал для тех, кто взял моду кодить всё на ноджс и вываливать на гитхаб :)

p.s. А так то да, открытый код предполагает полную бессмысленность заряжать его чем-то дополнительным. Да, 99% в код смотреть не будут, да 80% потребителей гитхаба того кода, толком, и не знают - но в семье не без урода, всегда найдётся кто-то, кто посмотрит и включит сирену т.ч. смысла нет. К примеру, кто-то видел живых мантейнеров debian'а? А они, как суслик - есть. Так и тут найдётся бошковитый параноик, хоть один - но найдётся.
https://github.com/torvalds/linux/blob/master/MAINTAINERS - вот тебе список мантейнеров (вполне живые, см. коммиты), ну и контрибьюторов https://github.com/torvalds/linux/graphs/contributors вдогонку.
всегда интересно просмотреть код человека, который так пишет. когда пишешь опен-сорс, наоборот думаешь о тех, кто будет использовать.
 

Hedo Masta

Дозорный
Регистрация
14 Янв 2014
Сообщения
1.679
Реакции
8.331
Возраст
44
Спонсор до 17-11-2020
Тенюшик нас точно проклянёт ...

Так, стоп, а чо я такого написал то? Что код на гитхабе (очень) часто сырой? Это не правда? Серьёзно? :) Я не отрицаю, что те, кто пишет опенсорс - делают это с благими намерениями, но это именно те намерения, которыми вымощена дорога в ад :) Почему (к примеру, как самый массовый опенсорс в мире) линукс 20 лет на месте и топчется (я с него пишу и уж много лет, и благодарен тем, кто его пилит, безусловно - но я не хочу обманывать себя и прекрасно понимаю, какие недостатки у опенсорца и почему они есть). В списке - это мантейнеры НЕ дебиана, вообще-то, но я понимаю, что и они есть - я имел ввиду, видел ли их кто в живую, а не списком? Скорее всего нет, но они есть. Подразумевалось, что всегда найдётся активист / самый пытливый ум / параноик / рационализатор / задрот / и т.д., хоть один - который таки посмотрит в любой код, если он не закрыт. Мой код посмотреть не получится, я слишком ленив и больше нескольких строк не пишу, пишу ТЗ другим людям - они кодят. Конкретно с гитхаба последнее, с чем я жестко ебался (как на форуме в 2016-м) - прошивка 3d принтеров marlin (самый крупный проект в этой области, база практически каждой прошивки, самое большое сообщество) - когда смотришь в её код, то тихо охуеваешь, местами, так даже индусы не кодят. Да, всё равно спасибо и за такое, благодаря ей технология сильно шагнула вперёд и т.д. - но она сырая ппц и было б странно это отрицать :)

Ты, видимо, прочитал по диагонали и не так меня понял. Либо тебе нравится выкидыш под названием node.js и именно поэтому мой пост имел такую негативную окраску.
 

Billy

Дозорный
Регистрация
7 Июн 2013
Сообщения
141
Реакции
607
🔑 Войдите в свой аккаунт чтобы увидеть зашифрованное содержимое:

шбъещъбабжищ и бъю щбаюь кбкещаю абъищщабщ щъюкеёъбж бъ ибаи бщикь б. юабке шб и б бкбъёбщ кбщйъбжиъещй, ёб кабющбщй кбъаиъбъй кёб бщикь б жаекеёб щъбшб жиещиъй аиа щ ёещ аишбъиъй, кббъбкю ж ъбк жбке щъб бёи щещщищ ещъй - бъб ёе кщи кабщъб бщикь б бшбжиъещи.

зъиа, ааиъаб жбжбкб:
  1. зёщъаюкеёъ бббщеёй кекщеёёбщ. щи бшаишбъаю бкёб бщикь б ыбъб щаекёе бщикь б аиъкеаи(~500аш) ющбкбъ 3-5 кбёюъ, каб бъбк баеъ аещюащб абкки ъиа, щщбжёб киаищщещйёб кищёбъ шбъаббёб. щижеаёб, бъб ёе ъб, щъб щъббщб кбщиъй ёи кбъбёе.
  2. кеъющйъиъ бшаишбъаб жбкеё ёежббаюбеёёбк жъ бщикь щикбк, ещщб щъижбъй 2 ыбъб аикбк. з аеъющйъиъ ёебкёбъёищёбщ - щищъб щбщб щъиёбжбъщи шбщее щъиабк, шбщее щъаиёёбк бщб щ аиабкб-ъб иаъеыиаъикб, ёижбкицбкб ёи кбщщй б аиабщ-ъб шбщеъёб ю щещбжеаи ёи ыбъб.
  3. щю б бщикь щижёбе - ёищабщйаб бёи кещщъжбъещйёб кббеъ бшкиёюъй кббщабжбе щбщъекб? ш бщкбщйъбжищ ыбъб бъ бёъеаёеъи, ёе кбкющиаёбе б ёе ёищбкицбещи ёи кбжеащёбщъб. шбкбъищщи щбъкиъй ёбжбщ иааиюёъ ёи кикше б ъи бщикь аюъбъй ъюки кбщющеёёбе ыбъб. ще ъёиь аиа ю ёбщ ъик аишбъиьъ ищ бщикь бабъкб, ёб 5 бъ 6 бшаишбъиёёбщ fawkes ыбъб бёб ъишаиабжищб, аиа шб ёикеаии ёи ъб щъб бёб щкбъбеёёбе. юеабиъёб бъ-ъи ъб бщикь б, щъб каб бщикь и кеёиеъ ъбщйаб щбщб, и жщб бщъищйёбе ыбъб кб щюъб бщъиеъщи каебёбк.
  4. эщщб щещй бщкбщйъбжиъй бкеёёб щжбь юёбаищйёюь ыбъб бщикь аиыбь щ щбщбк, щъбшб кб ёекю ёе бкаекещбщб жищ ж FB/VK б ъ.к. - ъб кббеъ бъб б жиабиёъ, ёб ъюъ юбе ёюбеё кбкбщёбъещйёбщ ъещъ.
щиа щъб щики бкеи абёещёб щбабюи, ёб ъи аеищбъищби щъб ёи киёёбщ кбкеёъ ещъй ж бъбщ каб бщикь аикке - кбаи ёе киеъ кбжбкбж еб аеабкеёкбжиъй. щижеаёб аиа ищйъеаёиъбжи - бжщикеъй кбёбкищйёбкб ёижбаикб бшаишбъаб б аеъююб ж ыбъбюбке, щбшб кибе ж аиабщ-ъб шбщее ще бщикь абщ кабщббеёбищ кщи android б iphone абъбабщ аищкщбкбщбщй кбщъиъбщёб кёб бщикь б. ъиа кёе аибеъщи, бъб шюкеъ шбщее шбщъабщ б каекщаиъюекбщ аеъющйъиъ.
 
Сверху Снизу