runonweb.ai

IA / ML

Descripción

Con un único import por tarea —transcripción, quitar el fondo, embeddings, OCR, traducción o TTS— el modelo se descarga y se ejecuta en el navegador. Si hay WebGPU se usa; si no, cae a WASM. Nada de audio, imagen o texto sale del dispositivo.

El paquete runonweb agrupa módulos independientes sobre modelos abiertos (Whisper tiny.en, BEN2, Depth Anything V2, RF-DETR Nano, PP-OCRv6, all-MiniLM-L6-v2, Firefox Translations, Kokoro y otros). Cada demo cita el modelo base, el autor y la licencia de los pesos; el código del repositorio es MIT.

Backends y tamaños

  • Transformers.js y ONNX Runtime Web, con dtype explícito por dispositivo (fp16/fp32 en WebGPU, q8 en WASM) para no generar resultados corruptos.
  • Descargas orientativas desde unos 4 MB hasta varios GB según el módulo; en visión, WebGPU fp16 llega a ser 5–7 veces más rápido que WASM q8 en un portátil con GPU.
  • Demos en vivo y un monorepo (Astro + librería) para añadir módulos solo con modelos de licencia redistribuible y uso comercial.

Tecnologías y temas

  • IA en el navegador

    Los pesos se descargan en local y nada sale del dispositivo

  • Modelos abiertos

    Cada módulo cita modelo, autor y licencia de los pesos

  • ONNX Runtime Web

    Backends y dtypes afinados para evitar basura silenciosa en q8

  • SDK modular

    Un import por tarea: STT, OCR, embeddings, traducción, TTS…

  • WebGPU

    Acelera visión y TTS cuando hay GPU; si no, el fallback es WASM