FlaqAI/content-filter-text-standard

content-filter-text-standard

Text Filter APIは、コンテンツ安全信号をテキストでチェックし、フラグ状態、スコア、リスクレベル、クレジットをシンプルなFlaqAIレスポンスで返します。プラットフォーム審査、UGCリスク管理、自動化されたコンテンツ安全対策に適しています。テキストと画像の検出シーンで潜在リスクを素早く見つけ、効率、安定性、拡張性のバランスを保てます。

Text Content

ドキュメント

API 例

JavaScriptPythoncURL

送信例

const response = await fetch('https://api.flaq.ai/api/v1/content/filter', {
  method: 'POST',
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer YOUR_API_KEY'
  },
  body: JSON.stringify({
    model_name: 'content-filter-text-standard',
    type: 'nsfw',
    text: 'Sample text to check'
  })
});

const result = await response.json();
console.log(result.data);

送信例

import requests

response = requests.post(
    'https://api.flaq.ai/api/v1/content/filter',
    headers={
        'Content-Type': 'application/json',
        'Authorization': 'Bearer YOUR_API_KEY'
    },
    json={
        'model_name': 'content-filter-text-standard',
        'type': 'nsfw',
        'text': 'Sample text to check'
    }
)

result = response.json()
print(result['data'])

送信例

curl -X POST https://api.flaq.ai/api/v1/content/filter \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model_name": "content-filter-text-standard",
    "type": "nsfw",
    "text": "Sample text to check"
  }'

まだ結果はありません

コンテンツ検出リクエストを実行すると、構造化されたレスポンスがここに表示されます。

Content Filter Textの料金

パラメータ	料金	元の料金	割引

基本

$0.0006 / 生成

標準

README

高速で手頃な Text Filter API（FlaqAI テキスト安全性検出）

FlaqAI Text Filter API は、ユーザー生成コンテンツワークフロー、AI アプリ、コミュニティプラットフォーム、モデレーションパイプラインを構築する開発者向けに、高速で手頃なテキスト安全性検出を提供します。このコンテンツモデレーション API は、テキストを送信し、フラグ状態、リスクレベル、スコア、クレジット使用量を含む構造化された安全シグナルをシンプルなレスポンスで受け取るのに役立ちます。Flaq AI での本番 API 統合向けに構築された Content Filter Text は、公開、保存、または下流モデルワークフローへ送信する前にテキストをスクリーニングする実用的な方法を提供します。

Text Filter API の主な機能

Fast Text Safety Detection: モデレーションゲート、公開前レビュー、リアルタイムのプロダクトフロー向けに設計された効率的な content filter API で、送信されたテキストをすばやくチェックします。
Cost-Effective API Pricing: コメント、プロンプト、キャプション、メッセージ、その他のユーザー生成テキスト全体で繰り返し安全性チェックを行うために、手頃な text moderation API を使用できます。
Structured Risk Signals: 明確なフラグ状態、信頼度スコア、リスクレベルのフィールドを受け取り、アプリケーションがコンテンツの許可、ブロック、キュー投入、レビューを判断できます。
Content Detection: シンプルで信頼性の高いポリシー適用を必要とするアプリに適した、集中型のコンテンツ安全ワークフローで成人向けまたは安全でないテキストシグナルを検出します。
Developer-Friendly Integration: カスタム分類器、モデレーションダッシュボード、スコアリング基盤を構築せずに、軽量な API リクエストでテキスト安全性チェックを追加できます。
Production Workflow Support: モデレーションキュー、監査証跡、プロンプトフィルタリング、コミュニティ安全ツール、自動化された trust-and-safety 運用に一貫したレスポンスを使用できます。

Flaq AI で Text Filter API をテキスト安全性に使用する方法

Input: コメント、プロンプト、プロフィール文、キャプション、メッセージ、モデレーションキュー項目など、安全性検出のために送信される自然言語テキスト。
Output: FlaqAI text safety API を通じた、フラグ状態、リスクレベル、スコア、クレジット使用量を含む構造化された content filter 結果。
Detection Type: 実用的なコンテンツ安全スクリーニングを必要とするアプリケーション向けの、集中型テキスト検出。
Capabilities: スケーラブルなモデレーションワークフロー向けの高速テキストモデレーション、リスクスコアリング、自動安全ゲート、コンテンツレビューのルーティング、開発者に使いやすい API 統合。

Text Filter API 統合の最適なユースケース

User-Generated Content Moderation: コメント、プロフィール文、フォーラム投稿、コミュニティ投稿がプロダクト上で表示される前にスクリーニングします。
AI Prompt Safety Checks: 画像、動画、チャット、自動化モデルへ送信する前にプロンプトをレビューし、安全でない生成の試みを減らします。
Messaging & Social Apps: シンプルな構造化結果により、チャットメッセージ、キャプション、返信、ソーシャルインタラクションに軽量なモデレーションレイヤーを追加します。
Marketplace & Listing Review: 商品説明、サービス掲載情報、出品者メモ、アップロードされたテキストを、購入者へ公開する前にチェックします。
Moderation Queue Automation: リスクの高いテキストを人のレビューへ回し、低リスクコンテンツをより速く通過させることで運用効率を高めます。

Note コンテンツ安全性の結果は、より広範なモデレーション戦略の一部として使用してください。必要に応じて自社ポリシーを確認し、エッジケースを慎重に扱い、慎重な判断が必要な決定には人によるレビューを適用してください。

Content Filter Text と競合製品の比較分析

Content Filter Text vs. OpenAI Moderation API
OpenAI Moderation は、テキストと画像入力に対する広範な安全性分類を提供します。Content Filter Text は、Flaq AI の本番パイプライン内で手頃なモデレーションを求めるチーム向けに、シンプルな flagged、score、risk level 出力を備えた軽量な FlaqAI text safety ワークフローに焦点を当てています。
Content Filter Text vs. Google Perspective API
Google Perspective API は、コメント品質と有害性シグナルの分析でよく知られています。Content Filter Text は、プロダクトのモデレーションゲート向けに、実用的な検出とわかりやすい API レスポンスによる直接的なコンテンツ安全スクリーニングを目的として設計されています。
Content Filter Text vs. Azure AI Content Safety
Azure AI Content Safety は、テキストと画像モデレーション向けのより広範なエンタープライズ安全プラットフォームを提供します。Content Filter Text は、大規模な安全性スタックを管理せずにシンプルなテキストチェックを必要とする開発者向けに、素早いセットアップ、費用対効果の高い API 利用、集中したレスポンス構造を重視しています。
Content Filter Text vs. Hive Moderation
Hive Moderation は、複数のメディアタイプとポリシーカテゴリにまたがる大規模モデレーションをサポートします。Content Filter Text は、直接的な API ワークフローを通じて手頃なテキスト安全性検出を特に必要とするチーム向けの、より軽量な選択肢です。
Content Filter Text vs. Custom Text Classifiers
カスタム分類器は専門的なポリシーニーズに合わせて調整できますが、データセット準備、モデル保守、評価、デプロイ作業が必要です。Content Filter Text は、少ないインフラ負担でより早くモデレーションを出荷したいチーム向けに、すぐに使える安全性検出を提供します。