Google запускает SynthID Text для маркировки текстов, созданных ИИ

Google представила технологию SynthID Text, которая позволяет добавлять водяные знаки и распознавать текст, созданный ИИ Google открыла доступ к технологии SynthID Text, которая позволяет добавлять водяные знаки в текст, сгенерированный ИИ, и распознавать его. Инструмент доступен для скачивания на платформе Hugging Face, а также через обновлённый Responsible GenAI Toolkit. 1 DevHub Community

Google представила новую технологию для маркировки и распознавания текстов, созданных генеративными ИИ-моделями. Инструмент SynthID Text не повлияет на скорость и качество генерации контента и будет предоставлен бесплатно разработчикам и компаниям.

Google представила технологию SynthID Text, которая позволяет добавлять водяные знаки и распознавать текст, созданный ИИ Доступный на платформе Responsible GenAI Toolkit, инструмент имеет открытый исходный код для разработчиков. Технология работает путем изменения распределения вероятностей токенов в предсказаниях ИИ, что позволяет отличать сгенерированный текст от обычного. Хотя SynthID Text не ухудшает качество генерации и справляется с модифицированными текстами, она менее эффективна с короткими текстами и фиксированными вопросами. Компании, такие как OpenAI, также разрабатывают аналогичные методы, но стандарты их применения ещё не определены. ================

Забирай эксклюзивное предложение для пользователей Tek.fm от Газпромбанка 🔥Нажми на меня

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний. SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак, который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google открыл доступ к SynthID Text — это технология для водяных знаков в тексте, сгенерированного AI. Наличие водяного знака позволяет надежно определить, что текст сгенерирован AI, но есть одна загвоздка — как правило, внедрение обязательных элементов в тексте плохо влияет на качество этого текста. Кстати, мы же это много раз видели до засилья AI, языковые модели, скачать бесплатно, без смс и регистрации. Модель хорошо справляется с большими текстами, немного хуже с короткими и фактическими ответами, а также переводами. Подобная технология в работе также у OpenAI. Тем более, что в Китае такая маркировка обязательна.