Instructions to use ApyHTML19/NuTag with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- llama-cpp-python
How to use ApyHTML19/NuTag with llama-cpp-python:
# !pip install llama-cpp-python from llama_cpp import Llama llm = Llama.from_pretrained( repo_id="ApyHTML19/NuTag", filename="NuTag_Bert-F16.gguf", )
output = llm( "Once upon a time,", max_tokens=512, echo=True ) print(output)
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ApyHTML19/NuTag with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ApyHTML19/NuTag:F16 # Run inference directly in the terminal: llama cli -hf ApyHTML19/NuTag:F16
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ApyHTML19/NuTag:F16 # Run inference directly in the terminal: llama cli -hf ApyHTML19/NuTag:F16
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf ApyHTML19/NuTag:F16 # Run inference directly in the terminal: ./llama-cli -hf ApyHTML19/NuTag:F16
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf ApyHTML19/NuTag:F16 # Run inference directly in the terminal: ./build/bin/llama-cli -hf ApyHTML19/NuTag:F16
Use Docker
docker model run hf.co/ApyHTML19/NuTag:F16
- LM Studio
- Jan
- Ollama
How to use ApyHTML19/NuTag with Ollama:
ollama run hf.co/ApyHTML19/NuTag:F16
- Unsloth Studio
How to use ApyHTML19/NuTag with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for ApyHTML19/NuTag to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for ApyHTML19/NuTag to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for ApyHTML19/NuTag to start chatting
- Atomic Chat new
- Docker Model Runner
How to use ApyHTML19/NuTag with Docker Model Runner:
docker model run hf.co/ApyHTML19/NuTag:F16
- Lemonade
How to use ApyHTML19/NuTag with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ApyHTML19/NuTag:F16
Run and chat with the model
lemonade run user.NuTag-F16
List all available models
lemonade list
output = llm(
"Once upon a time,",
max_tokens=512,
echo=True
)
print(output)YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
🏷️ NuTag — Named Entity Recognition Model
NuTag est un modèle de reconnaissance d'entités nommées (NER) basé sur NuNER-BERT-v1.0, développé par NuMind, quantifié au format GGUF pour une exécution locale légère et efficace.
📋 Informations générales
| Attribut | Détail |
|---|---|
| Nom | NuTag |
| Architecture | BERT (Bidirectional Encoder Representations from Transformers) |
| Tâche | Token Classification / Named Entity Recognition (NER) |
| Langue | Anglais 🇬🇧 |
| Format | GGUF (llama.cpp compatible) |
| Licence | Voir dépôt original NuMind |
🎯 À quoi sert NuTag ?
NuTag analyse un texte brut et identifie automatiquement les entités nommées qu'il contient. Il ne génère pas de texte — il étiquette les éléments importants.
Entités détectées
| Étiquette | Type | Exemple |
|---|---|---|
PER |
Personne | Elon Musk, Marie Curie |
ORG |
Organisation | Tesla, ONU, Google |
LOC |
Lieu géographique | Paris, Maroc, Sahara |
DATE |
Date / Période | 12 janvier 2024, en 2003 |
MONEY |
Montant financier | 6,5 millions de dollars |
MISC |
Divers | iPhone 15, COVID-19 |
💡 Exemple d'utilisation
Texte en entrée :
Elon Musk a fondé Tesla à Palo Alto en 2003 avec un investissement de 6,5M$.
Sortie NuTag :
[
{ "entity": "PER", "word": "Elon Musk", "score": 0.998 },
{ "entity": "ORG", "word": "Tesla", "score": 0.995 },
{ "entity": "LOC", "word": "Palo Alto", "score": 0.991 },
{ "entity": "DATE", "word": "2003", "score": 0.987 },
{ "entity": "MONEY", "word": "6,5M$", "score": 0.976 }
]
🚀 Installation & Usage
Option 1 — HuggingFace Transformers (Python)
pip install transformers torch
from transformers import pipeline
ner = pipeline(
task="ner",
model="numind/NuNER-BERT-v1.0",
aggregation_strategy="simple"
)
texte = "Elon Musk a fondé Tesla à Palo Alto en 2003 avec 6,5M$ d'investissement."
resultats = ner(texte)
for entite in resultats:
print(f"[{entite['entity_group']}] {entite['word']} (score: {entite['score']:.3f})")
Option 3 — LM Studio (interface graphique)
- Ouvrir LM Studio
- Rechercher
ApyHTML19/NuTag
🛠️ Cas d'usage
| Domaine | Application |
|---|---|
| 📰 Presse & Médias | Extraction automatique de personnes, lieux, événements |
| ⚖️ Juridique | Identification de parties, dates, montants dans des contrats |
| 🏥 Santé | Extraction de médicaments, pathologies, patients |
| 🔐 Cybersécurité | Détection d'IPs, domaines, CVE dans des logs |
| 📦 E-commerce | Reconnaissance de produits, marques, prix |
| 🔍 Moteur de recherche | Indexation sémantique de contenus |
⚙️ Caractéristiques techniques
- Architecture : BERT encoder-only (non génératif)
- Méthode d'entraînement : Fine-tuning supervisé sur corpus NER multidomaine
- Tokenisation : WordPiece (vocabulaire BERT)
- Format GGUF : Quantisation statique par
mradermacher - Compatible :
llama.cpp,LM Studio,Ollama,Jan
⚠️ Limitations
- Modèle entraîné principalement sur des textes en anglais
- Ne génère pas de texte — uniquement classification de tokens
- Les quantisations basses (Q2, Q3) peuvent réduire la précision sur des entités rares
- Les entités composées (ex: New York City) peuvent être fragmentées selon la tokenisation
🔗 Liens utiles
- 📦 Modèle original — numind/NuNER-BERT-v1.0
- 📦 Version GGUF — mradermacher/NuNER-BERT-v1.0-GGUF
- 📖 Guide GGUF par TheBloke
- 🛠️ llama.cpp
- 🖥️ LM Studio
- Downloads last month
- -
16-bit
# !pip install llama-cpp-python from llama_cpp import Llama llm = Llama.from_pretrained( repo_id="ApyHTML19/NuTag", filename="NuTag_Bert-F16.gguf", )