Изображение: AI | freepik
На конференции Google I/O компания показала инструмент, который умеет определять, был ли контент сгенерирован искусственным интеллектом. Пока система работает только с продуктами самой Google, но в будущем круг возможностей расширят, пишет «Хайтек».
Google показала инструмент для распознавания ИИ-контента — SynthID Detector. Его представили на конференции Google I/O. Система анализирует изображения, текст, видео и аудио и находит в них скрытые водяные знаки. Эти метки автоматически появляются в контенте, созданном с помощью моделей Google — Gemini, Imagen, Lyria и Veo.
Руководитель Google DeepMind Пушмит Коли объяснил, как работает детектор. Он отмечает конкретные участки, где система зафиксировала признаки генерации. Например, в аудиофайле SynthID выделяет временные отрезки с метками, а в изображениях — области с наибольшей вероятностью их наличия.
Сейчас Google тестирует инструмент в закрытом режиме. Доступ получили только участники тестирования. Следующим этапом к системе подключат тех, кто записался в лист ожидания. Коли добавил, что команда собирает обратную связь от пользователей и учитывает её при доработке технологии.
Пока SynthID Detector распознаёт только контент, сгенерированный с помощью продуктов Google. Но в компании рассматривают вариант поддержки и сторонних ИИ-систем. Сроки запуска открытого доступа пока не называют.
