FlaqAI/content-filter-text-standard

content-filter-text-standard

Text Filter API проверяет текст на сигналы безопасности контента и возвращает статус флага, оценку, уровень риска и кредиты в простом ответе FlaqAI. Подходит для бесплатного тестирования и стабильных API-процессов.

Text Content

Документация

Примеры API

JavaScriptPythoncURL

Пример отправки

const response = await fetch('https://api.flaq.ai/api/v1/content/filter', {
  method: 'POST',
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer YOUR_API_KEY'
  },
  body: JSON.stringify({
    model_name: 'content-filter-text-standard',
    type: 'nsfw',
    text: 'Sample text to check'
  })
});

const result = await response.json();
console.log(result.data);

Пример отправки

import requests

response = requests.post(
    'https://api.flaq.ai/api/v1/content/filter',
    headers={
        'Content-Type': 'application/json',
        'Authorization': 'Bearer YOUR_API_KEY'
    },
    json={
        'model_name': 'content-filter-text-standard',
        'type': 'nsfw',
        'text': 'Sample text to check'
    }
)

result = response.json()
print(result['data'])

Пример отправки

curl -X POST https://api.flaq.ai/api/v1/content/filter \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model_name": "content-filter-text-standard",
    "type": "nsfw",
    "text": "Sample text to check"
  }'

Результатов пока нет

Запустите запрос на проверку контента, чтобы увидеть здесь структурированный ответ.

Цены на Content Filter Text

Параметры	Цена	Исходная цена	Скидка

Базовый

$0.0006 за генерация

Стандарт

README

Быстрая и доступная API Content Filter Text (обнаружение безопасности текста FlaqAI)

API FlaqAI Content Filter Text обеспечивает быструю и доступную проверку безопасности текста для разработчиков, создающих рабочие процессы с пользовательским контентом, AI-приложения, платформы сообществ и пайплайны модерации. Эта API модерации контента помогает отправлять текст и получать структурированные сигналы безопасности, включая статус пометки, уровень риска, оценку и расход кредитов в простом ответе. Созданная для production-интеграции API на Flaq AI, Content Filter Text дает практичный способ проверять текст перед публикацией, сохранением или отправкой в последующие модельные рабочие процессы.

Ключевые возможности API Content Filter Text

Быстрое обнаружение безопасности текста: Быстро проверяйте отправленный текст с помощью упрощенной API фильтра контента, предназначенной для модерационных шлюзов, предпросмотра перед публикацией и продуктовых потоков в реальном времени.
Экономичная стоимость API: Используйте доступную API модерации текста для повторяющихся проверок безопасности комментариев, prompts, подписей, сообщений и другого пользовательского текста.
Структурированные сигналы риска: Получайте понятный статус пометки, confidence score и поля уровня риска, чтобы приложение могло решить, разрешить, заблокировать, поставить в очередь или отправить контент на проверку.
Обнаружение контента: Обнаруживайте признаки adult или небезопасного текста с помощью сфокусированного рабочего процесса безопасности контента, подходящего для apps, которым нужно простое и надежное применение политик.
Удобная интеграция для разработчиков: Добавляйте проверки безопасности текста через легкий API-запрос без создания собственного классификатора, панели модерации или инфраструктуры скоринга.
Поддержка production-процессов: Используйте согласованные ответы для очередей модерации, audit trails, фильтрации prompts, инструментов безопасности сообщества и автоматизированных операций trust-and-safety.

Как использовать API Content Filter Text для безопасности текста на Flaq AI

Ввод: Текст на естественном языке, отправленный для обнаружения безопасности, например комментарии, prompts, bios, подписи, сообщения или элементы очереди модерации.
Вывод: Структурированные результаты фильтра контента со статусом пометки, уровнем риска, оценкой и расходом кредитов через API безопасности текста FlaqAI.
Тип обнаружения: Сфокусированное обнаружение текста для приложений, которым нужен практичный скрининг безопасности контента.
Возможности: Быстрая модерация текста, оценка риска, автоматизированные шлюзы безопасности, маршрутизация проверки контента и удобная для разработчиков API-интеграция для масштабируемых процессов модерации.

Лучшие сценарии использования для интеграции API Content Filter Text

Модерация пользовательского контента: Проверяйте комментарии, текст профилей, посты форумов и материалы сообщества до того, как они станут видимыми в продукте.
Проверки безопасности AI prompts: Проверяйте prompts перед отправкой в модели изображений, видео, чата или автоматизации, чтобы снизить попытки небезопасной генерации.
Мессенджеры и социальные apps: Добавьте легкий слой модерации для сообщений чата, подписей, ответов и социальных взаимодействий с простыми структурированными результатами.
Проверка marketplace и объявлений: Проверяйте описания товаров, списки услуг, заметки продавцов и загруженный текст перед публикацией для покупателей.
Автоматизация очереди модерации: Направляйте рискованный текст на проверку человеком, позволяя контенту с низким риском проходить быстрее и повышая операционную эффективность.

Примечание Результаты безопасности контента следует использовать как часть более широкой стратегии модерации. Пересматривайте собственные политики, аккуратно обрабатывайте пограничные случаи и применяйте ручную проверку для чувствительных решений при необходимости.

Content Filter Text и конкуренты: сравнительный анализ

Content Filter Text vs. OpenAI Moderation API
OpenAI Moderation предоставляет широкую классификацию безопасности для текстовых и графических вводов. Content Filter Text фокусируется на легком рабочем процессе безопасности текста FlaqAI с простыми выходами flagged, score и risk level для команд, которым нужна доступная модерация внутри production-пайплайнов Flaq AI.
Content Filter Text vs. Google Perspective API
Google Perspective API хорошо известна анализом качества комментариев и сигналов токсичности. Content Filter Text создан для прямого скрининга безопасности контента с практичным обнаружением и понятными API-ответами для продуктовых модерационных шлюзов.
Content Filter Text vs. Azure AI Content Safety
Azure AI Content Safety предлагает более широкую корпоративную платформу безопасности для модерации текста и изображений. Content Filter Text делает акцент на быстром запуске, экономичном использовании API и сфокусированной структуре ответа для разработчиков, которым нужны простые проверки текста без управления крупным стеком безопасности.
Content Filter Text vs. Hive Moderation
Hive Moderation поддерживает крупномасштабную модерацию разных типов медиа и категорий политик. Content Filter Text — более компактный вариант для команд, которым нужна именно доступная проверка безопасности текста через прямой API-процесс.
Content Filter Text vs. пользовательские текстовые классификаторы
Пользовательские классификаторы можно настроить под специализированные политики, но они требуют подготовки датасетов, обслуживания модели, оценки и развертывания. Content Filter Text предоставляет готовое обнаружение безопасности для команд, которые хотят быстрее выпустить модерацию с меньшими инфраструктурными затратами.

Примеры API

Пример отправки

Пример отправки

Пример отправки

Цены на Content Filter Text

Связанные модели

README

Быстрая и доступная API Content Filter Text (обнаружение безопасности текста FlaqAI)

Ключевые возможности API Content Filter Text

Как использовать API Content Filter Text для безопасности текста на Flaq AI

Лучшие сценарии использования для интеграции API Content Filter Text

Content Filter Text и конкуренты: сравнительный анализ

Больше статей о Content Filter Text