L'API Text Filter vérifie le texte pour les signaux de sécurité du contenu et renvoie statut signalé, score, niveau de risque et crédits dans une réponse FlaqAI simple.
Exemples d'API
Exemple d'envoi
const response = await fetch('https://api.flaq.ai/api/v1/content/filter', {
method: 'POST',
headers: {
'Content-Type': 'application/json',
'Authorization': 'Bearer YOUR_API_KEY'
},
body: JSON.stringify({
model_name: 'content-filter-text-standard',
type: 'nsfw',
text: 'Sample text to check'
})
});
const result = await response.json();
console.log(result.data);
Exemple d'envoi
import requests
response = requests.post(
'https://api.flaq.ai/api/v1/content/filter',
headers={
'Content-Type': 'application/json',
'Authorization': 'Bearer YOUR_API_KEY'
},
json={
'model_name': 'content-filter-text-standard',
'type': 'nsfw',
'text': 'Sample text to check'
}
)
result = response.json()
print(result['data'])
Exemple d'envoi
curl -X POST https://api.flaq.ai/api/v1/content/filter \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model_name": "content-filter-text-standard",
"type": "nsfw",
"text": "Sample text to check"
}'
Aucun résultat pour le moment
Lancez une requête de détection de contenu pour voir ici la réponse structurée.
Tarifs de Content Filter Text
| Paramètres | Prix | Prix d’origine | Remise |
|---|
README
API Content Filter Text rapide et abordable (FlaqAI Text Safety Detection)
L'API FlaqAI Content Filter Text fournit une détection de sécurité textuelle rapide et abordable aux développeurs qui créent des workflows de contenu généré par les utilisateurs, des apps d'IA, des plateformes communautaires et des pipelines de modération. Cette API de modération de contenu vous aide à soumettre du texte et à recevoir des signaux de sécurité structurés, notamment l'état de signalement, le niveau de risque, le score et l'utilisation des crédits dans une réponse simple. Conçu pour l'intégration API en production sur Flaq AI, Content Filter Text offre un moyen pratique de filtrer le texte avant de le publier, de le stocker ou de l'envoyer vers des workflows de modèles en aval.
Fonctionnalités clés de l'API Content Filter Text
- Détection rapide de sécurité textuelle : Vérifiez rapidement le texte soumis avec une API de filtre de contenu rationalisée, conçue pour les barrières de modération, la révision avant publication et les flux produit en temps réel.
- Tarification API économique : Utilisez une API de modération de texte abordable pour des contrôles de sécurité répétés sur les commentaires, prompts, légendes, messages et autres textes générés par les utilisateurs.
- Signaux de risque structurés : Recevez des champs clairs pour l'état de signalement, le score de confiance et le niveau de risque, afin que votre application puisse décider d'autoriser, bloquer, mettre en file d'attente ou réviser le contenu.
- Détection de contenu : Détectez les signaux textuels adultes ou dangereux avec un workflow de sécurité de contenu ciblé, adapté aux apps qui ont besoin d'une application de règles simple et fiable.
- Intégration conviviale pour les développeurs : Ajoutez des contrôles de sécurité textuelle via une requête API légère, sans créer de classificateur personnalisé, de tableau de bord de modération ni d'infrastructure de scoring.
- Prise en charge des workflows de production : Utilisez des réponses cohérentes pour les files de modération, les pistes d'audit, le filtrage des prompts, les outils de sécurité communautaire et les opérations trust-and-safety automatisées.
Comment utiliser l'API Content Filter Text pour la sécurité textuelle sur Flaq AI
- Entrée : Texte en langage naturel soumis pour détection de sécurité, comme des commentaires, prompts, bios, légendes, messages ou éléments de file de modération.
- Sortie : Résultats structurés de filtre de contenu avec état de signalement, niveau de risque, score et utilisation des crédits via l'API FlaqAI text safety.
- Type de détection : Détection textuelle ciblée pour les applications qui ont besoin d'un filtrage pratique de sécurité du contenu.
- Capacités : Modération rapide du texte, scoring du risque, barrières de sécurité automatisées, routage de révision du contenu et intégration API conviviale pour des workflows de modération évolutifs.
Meilleurs cas d'utilisation pour l'intégration de l'API Content Filter Text
- Modération du contenu généré par les utilisateurs : Filtrez les commentaires, textes de profil, publications de forum et soumissions communautaires avant qu'ils ne deviennent visibles dans votre produit.
- Contrôles de sécurité des prompts IA : Révisez les prompts avant de les envoyer vers des modèles d'image, vidéo, chat ou automatisation afin de réduire les tentatives de génération dangereuses.
- Apps de messagerie et sociales : Ajoutez une couche de modération légère pour les messages de chat, légendes, réponses et interactions sociales avec des résultats structurés simples.
- Révision de marketplaces et d'annonces : Vérifiez les descriptions de produits, offres de services, notes de vendeurs et textes importés avant leur publication auprès des acheteurs.
- Automatisation des files de modération : Dirigez le texte risqué vers une révision humaine tout en laissant le contenu à faible risque avancer plus vite, améliorant ainsi l'efficacité opérationnelle.
Note Les résultats de sécurité du contenu doivent être utilisés dans le cadre d'une stratégie de modération plus large. Révisez vos propres politiques, gérez soigneusement les cas limites et appliquez une révision humaine pour les décisions sensibles lorsque nécessaire.
Content Filter Text vs concurrents : analyse comparative
-
Content Filter Text vs. OpenAI Moderation API
OpenAI Moderation fournit une classification de sécurité large pour les entrées texte et image. Content Filter Text se concentre sur un workflow léger FlaqAI de sécurité textuelle avec des sorties simples flagged, score et risk level pour les équipes qui veulent une modération abordable dans les pipelines de production Flaq AI. -
Content Filter Text vs. Google Perspective API
Google Perspective API est bien connue pour analyser la qualité des commentaires et les signaux de toxicité. Content Filter Text est conçu pour le filtrage direct de sécurité du contenu avec une détection pratique et des réponses API simples pour les barrières de modération produit. -
Content Filter Text vs. Azure AI Content Safety
Azure AI Content Safety offre une plateforme de sécurité d'entreprise plus large pour la modération de texte et d'image. Content Filter Text met l'accent sur une configuration rapide, une utilisation API économique et une structure de réponse ciblée pour les développeurs qui ont besoin de contrôles textuels simples sans gérer une pile de sécurité plus vaste. -
Content Filter Text vs. Hive Moderation
Hive Moderation prend en charge la modération à grande échelle sur plusieurs types de médias et catégories de politiques. Content Filter Text est une option plus légère pour les équipes qui ont spécifiquement besoin d'une détection de sécurité textuelle abordable via un workflow API direct. -
Content Filter Text vs. classificateurs de texte personnalisés
Les classificateurs personnalisés peuvent être adaptés à des besoins de politique spécialisés, mais exigent préparation de jeux de données, maintenance de modèle, évaluation et déploiement. Content Filter Text fournit une détection de sécurité prête à l'emploi aux équipes qui veulent lancer la modération plus vite avec moins de charge d'infrastructure.