Introdução geral
A SambaNova Systems é uma empresa dedicada a revolucionar as cargas de trabalho de IA, fornecendo a plataforma de inferência de IA mais rápida do mundo. Seus produtos, incluindo os sistemas SambaNova Suite e DataScale, foram projetados para que organizações empresariais e governamentais ofereçam soluções de IA eficientes, precisas e seguras. As inovações da SambaNova, como a Unidade de Fluxo de Dados Reconfigurável (RDU) SN40L, proporcionam uma vantagem significativa no treinamento e na inferência de modelos de IA.
Limite da API do modelo gratuito: 20 RPM (solicitações por minuto), o limite do token é mais seguro, em torno de 2000.
Lista de funções
- Plataforma de inferência e ajuste fino de IA com base na arquitetura de fluxo de dados
- SambaStudio integrado para desenvolvimento e gerenciamento de modelos de IA
- Suporte a vários modelos de IA generativa (por exemplo, Llama 3.1 8B, 70B, 405B)
- Fornecer pesquisa de conhecimento empresarial e funções de chamada de função
- Oferece suporte à rápida implementação de modelos de IA generativa em grande escala
- Fornece hardware de IA de alto desempenho e baixa latência (SN40L RDU)
- Oferece suporte à implementação local e na nuvem
Usando a Ajuda
Processo de instalação
- armazém de clones
git clone https://github.com/sambanova/sambanova-suite.git - Acesso ao catálogo do depósito
cd sambanova-suite - Instalação de dependências
npm install - Definição de variáveis de ambiente
Criar um.env.locale defina o seguinte:SAMBANOVA_API_KEY=你的SambaNova API密钥 - Iniciando o servidor de desenvolvimento
npm run dev - Criação de aplicativos da Web
npm run build
Funções de uso
- Gerenciamento de chaves de APIDigite a chave de API obtida do SambaNova ou de outro provedor no menu API.
- Configuração da variável de ambiente: através de
.env.localpara configurar variáveis de ambiente, como chave de API, domínio do site, etc. - Armazenamento local e sincronizaçãoSuporte ao salvamento automático de dados no armazenamento local e à sincronização com a nuvem.
- aplicativo de desktopOferece aplicativos de desktop para download para Windows, MacOS e Linux com suporte off-line.
- Parâmetros de modelo personalizadosSuporte à personalização dos parâmetros do modelo, como
presence_penaltyetc., para atender a diferentes necessidades de uso. - Gerenciamento de registros de bate-papoSuporte à edição, reordenação e inserção de qualquer mensagem, facilitando o gerenciamento dos bate-papos pelos usuários.
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " SambaNova: serviço de inferência de modelos grandes de alta velocidade, LLama gratuito, APIs de modelos da série Qwen
Português do Brasil 
简体中文 
English 
日本語 
Deutsch