Router by Ramp es una puerta de enlace para LLM que ofrece un único endpoint de API para acceder a múltiples modelos y proveedores de IA. Las aplicaciones envían solicitudes a Router en lugar de integrarse por separado con cada proveedor, lo que ayuda a los equipos a cambiar de modelo sin modificar su integración principal.
Router evalúa las solicitudes aptas teniendo en cuenta el coste, la calidad y la disponibilidad. Puede enrutar las solicitudes a un nivel de modelos de menor coste cuando se espera que el impacto en la calidad sea aceptable, y puede recurrir a otro modelo disponible cuando un proveedor sufre una interrupción o aplica un límite de solicitudes. El servicio también registra información por solicitud, como el uso, el modelo, el proveedor y el coste.
El producto es compatible con las API de OpenAI y Anthropic, incluye documentación sobre la selección de modelos y las estrategias de enrutamiento, y ofrece un directorio de modelos con precios publicados, ventanas de contexto e información sobre capacidades. Está orientado a desarrolladores individuales y equipos con sede en EE. UU. que necesitan trabajar con varios modelos.