Компания Google сообщила, что интегрирует технологию C2PA Content Credentials в приложение камеры Pixel 10 и Google Photos, чтобы пользователи могли отличать подлинные изображения от тех, что были созданы или отредактированы с помощью искусственного интеллекта.
В Google отметили, что проблема маркировки синтетического контента значительно обострилась в последние годы, поскольку традиционные подходы практически не работают и оставляют место для разных толкований и искажения информации.
В новейших смартфонах Pixel 10 каждая фотография в формате JPEG будет автоматически получать Content Credentials, содержащие информацию о том, как было создано фото.
«Content Credentials содержат обширный набор информации о том, как создавались медиафайлы (изображения, видео или аудиофайлы), защищенный той же технологией цифровых подписей, которая десятилетиями обеспечивала безопасность онлайн-транзакций и мобильных приложений, — объясняет Google. — Это дает пользователям возможность идентифицировать контент, созданный (или измененный) посредством ИИ, способствуя большей прозрачности и доверию к генеративному ИИ».
Таким образом, если пользователь отредактирует оригинальное изображение с помощью ИИ (или без его участия), Google Photos добавит новую информацию в Content Credentials, сохраняя историю всех правок.
В компании пишут, что система работает в автономном режиме, полностью защищена от внешнего вмешательства и не угрожает анонимности пользователей, сохраняя при этом возможность верификации.
Google описывает несколько уровней безопасности и целостности, которые встроены в Content Credentials и призваны сделать систему более надежной и защищенной от несанкционированного доступа:
- криптографическая подпись, которая аннулирует цифровую подпись при изменении метаданных;
- устойчивое к взлому хранение ключей — все криптографические ключи генерируются и хранятся в Android StrongBox внутри Titan M2;
- Android Key Attestation, позволяющий удостоверяющим центрам C2PA Google проверять подлинность как аппаратного обеспечения, так и приложения, запрашивающего данные;
- одноразовые ключи для каждого изображения — каждая фотография подписывается уникальным криптографическим ключом, который никогда не используется повторно, что должно сохранять приватность и анонимность пользователей;
- доверенные временные метки, поддерживаемые безопасными внутренними часами устройства, которые обслуживает Tensor, что позволяет устройствам Pixel создавать проверяемые временные метки даже в автономном режиме.
Пока система Content Credentials будет доступна только на устройствах Pixel 10, но представители Google пишут, что в будущем намерены распространить ее на большее количество устройств под управлением Android. Однако никаких точных сроков и дат в компании пока не называют.
Компания призывает всех заинтересованных участников индустрии выйти за рамки упрощенной маркировки ИИ-контента и переходить на Content Credentials, подчеркивая, что борьба с дезинформацией и дипфейками требует массового внедрения технологий верификации подлинности контента в масштабах всей индустрии.
