Recomendadas por la comunidad. Filtra, vota y propón las tuyas.
AirLLM revoluciona la inferencia de modelos de lenguaje grandes (LLMs), permitiendo que modelos de hasta 70 mil millones de parámetros se ejecuten en una única GPU de 4GB. Esto es…