SynthID: водни знаци на Google DeepMind за AI съдържание
На 29 август 2023 г. Google DeepMind пуска в бета версия SynthID — инструмент, вграждащ невидим цифров воден знак директно в пикселите на AI-генерирани изображения, който остава откриваем дори след изрязване, филтриране или компресиране, впоследствие разширен и за текст и видео.
Как работи технологията
SynthID използва два съвместно обучени дълбоки невронни модела — един за вграждане на воден знак, друг за неговото разпознаване. Воденият знак е невидим за човешкото око, но откриваем за идентификация, и оцелява при често срещани редакции като изрязване, промяна на цветовете или JPEG компресия.[1]
Инструментът е достъпен първоначално за ограничен кръг клиенти на Google Cloud Vertex AI, използващи текст-към-изображение модела Imagen на Google.[1]
Способността да се идентифицира AI-генерирано съдържание е от решаващо значение за това хората да разполагат със знанието кога взаимодействат с генерирани медии, и за предотвратяване разпространението на дезинформация.
Разширяване към текст и видео
Google впоследствие разширява SynthID, за да покрие и AI-генериран текст и видео съдържание, а през 2024 г. компанията прави с отворен код части от компонента за водни знаци върху текст.
Google представя SynthID като градивен елемент за по-широки индустриални стандарти за произход на съдържанието и прозрачност, свързани с усилия като C2PA.
Вижте също
- Изкуственият интелект и дезинформацията в изборите
- Скандалът с Cambridge Analytica: как 87 милиона профила промениха политическата реклама
- C2PA — стандартът за произход на цифрово съдържание
- Мексико 2024: дийпфейкове и идентичностна дезинформация в най-голямата изборна кампания в историята на страната
- Германия: координирана мрежа използва AI клониран глас и дийпфейк видео преди федералните избори през 2025 г.
- Full Fact AI: борба с дезинформацията на изборите във Великобритания
- Докладът на ЕС за AI и дезинформация на изборите за Европарламент (2024)
- Боливия: AI дийпфейк разпространява фалшива новина за референдум за отзоваване на президента Пас
- Community Notes: краудсорсинг проверка на факти в X
- Amnesty International: AI модерацията на реклами на Meta пропуска повечето тестови дезинформационни реклами преди изборите в Бразилия
Доказателства към твърденията
-
Identifying AI-generated images with SynthID
официален блогОтвори източника