msaldain
8805b0541b
Etapa 3 del plan. Se elige la Batch API sobre llamadas sueltas porque cuesta la mitad y generar un dataset no es sensible a la latencia: es exactamente su caso de uso. A cambio el trabajo es asincrónico y puede tardar horas, así que todo el estado vive en disco y es reanudable — matar el proceso, perder la conexión o reiniciar el servidor no pierde nada ni gasta de nuevo. Cuatro decisiones que sostienen eso: - El custom_id se deriva del hash del contenido del pedido. El trabajo queda idempotente: re-generar la misma especificación produce los mismos IDs, así que lo ya resuelto se reconoce y no se vuelve a pagar. - Los resultados se indexan por custom_id, nunca por posición. La API los devuelve en cualquier orden, y emparejarlos por índice mezcla las respuestas en silencio; un dataset mal alineado es peor que uno vacío porque parece correcto. El cliente falso de los tests los invierte a propósito. - Los fallos se registran en errors.jsonl con su motivo en vez de descartarse, y --retry-failed reenvía solo esos. - El prompt de sistema compartido va marcado para caché: es idéntico entre miles de pedidos, y a ~0,1x del precio de entrada deja de contar. Los lotes se persisten después de cada envío y no al final, para que una caída a mitad de camino no deje lotes huérfanos sin registrar. El SDK de anthropic se importa de forma perezosa y queda como extra opcional: el servidor de entrenamiento no lo necesita y el paquete importa sin él. 21 tests nuevos (92 en total), todos contra un cliente falso — lo que hay que verificar es el harness, no el SDK. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
52 lines
1.3 KiB
TOML
52 lines
1.3 KiB
TOML
[project]
|
|
name = "enlace"
|
|
version = "0.1.0"
|
|
description = "Modelo de lenguaje propio, entrenado desde cero, para asistencia general y familiar en español."
|
|
requires-python = ">=3.11"
|
|
|
|
# Las versiones se pinean con cuidado: el salto a Blackwell (RTX 5090, sm_120)
|
|
# exige torch >= 2.7 con CUDA 12.8. Turing (RTX 2060, sm_75) funciona con
|
|
# cualquier torch reciente. Ver configs/hardware/ y docs/HARDWARE.md.
|
|
dependencies = [
|
|
"torch>=2.5",
|
|
"pydantic>=2.7",
|
|
"omegaconf>=2.3",
|
|
"numpy>=1.26",
|
|
]
|
|
|
|
[project.optional-dependencies]
|
|
data = [
|
|
"datasets>=2.20", # streaming del corpus; nunca se baja entero
|
|
"tokenizers>=0.20",
|
|
"fasttext-wheel>=0.9", # filtro de idioma
|
|
"datasketch>=1.6", # deduplicación MinHash
|
|
]
|
|
distill = [
|
|
# Solo para generar el dataset SFT (Etapa 3) con la Batch API. No hace falta
|
|
# en el servidor de entrenamiento: enlace/data/distill.py importa el SDK de
|
|
# forma perezosa para que el paquete funcione sin él.
|
|
"anthropic>=0.69",
|
|
]
|
|
dev = [
|
|
"pytest>=8.0",
|
|
"ruff>=0.6",
|
|
]
|
|
|
|
[build-system]
|
|
requires = ["hatchling"]
|
|
build-backend = "hatchling.build"
|
|
|
|
[tool.hatch.build.targets.wheel]
|
|
packages = ["enlace"]
|
|
|
|
[tool.pytest.ini_options]
|
|
testpaths = ["tests"]
|
|
addopts = "-q"
|
|
|
|
[tool.ruff]
|
|
line-length = 100
|
|
target-version = "py311"
|
|
|
|
[tool.ruff.lint]
|
|
select = ["E", "F", "I", "UP", "B"]
|