Eurotech, leader nell’Intelligenza Artificiale delle Cose (AIoT) Edge, è orgogliosa di presentare la sua nuova linea di server per l’IA generativa, progettati come piattaforme complete, in grado di supportare una varietà di modelli di IA generativa, a partire dai grandi modelli linguistici (LLM).
Questa nuova gamma di prodotti consente alle organizzazioni di sfruttare appieno i più recenti progressi dell’IA generativa, migliorando la produttività e costruendobasi di conoscenza dei dati sicure e interne. Mantenendo i dati sensibili all’interno dell’infrastruttura aziendale, questi server offrono sicurezza e significativi risparmi sui costi rispetto alle alternative basate su cloud. Inoltre, offrono flessibilità per l’ottimizzazione di modelli specifici per settore, consentendo alle aziende di adattare i modelli di IA alle proprie esigenze e ottimizzare l’efficienza operativa.
L’offerta di Eurotech varia dal livello Entry al livello Ultimate, affrontando diverse esigenze di IA – dal deployment di modelli pre-addestrati fino all’addestramento intensivo di LLM e alla loro ottimizzazione. Questi server sono dotati dell’intero stack di calcolo accelerato NVIDIA per offrire prestazioni di elaborazione potenti, aiutando le aziende a gestire anche i carichi di lavoro di IA più impegnativi in molteplici casi d’uso.
Totalmente compatibili con la piattaforma NVIDIA AI Enterprise, i server per l’IA generativa si integrano perfettamente con i microservizi NVIDIA NIM e NVIDIA Metropolis. Queste integrazioni consentono un’inferenza ottimizzata per un’ampia gamma di modelli di IA popolari di NVIDIA e del suo ecosistema di partner, facilitando lo sviluppo di chatbot intelligenti, copiloti avanzati o agenti visivi di IA.
Marco Carrer, nella foto, CTO di Eurotech, ha dichiarato: “Siamo entusiasti di presentare la nostra nuova linea di server specificamente progettata per sfruttare la potenza delle applicazioni di IA generativa. Mentre l’IA generativa avanza verso una nuova generazione di applicazioni edge intelligenti, i server per l’IA generativa di Eurotech offrono una maggiore scalabilità, rafforzando la sicurezza e la privacy dei dati, consentendo al contempo l’ottimizzazione dei modelli specifici per settore e facilitando il deployment edge. Non vediamo l’ora di vedere le soluzioni innovative che i nostri clienti svilupperanno utilizzando queste tecnologie all’avanguardia.”
Per illustrare le applicazioni pratiche di queste piattaforme, Eurotech ha reso disponibile un agente LLM open-source che funge da copilota, migliorando l’utilizzo delle basi di conoscenza interne attraverso la generazione aumentata dal recupero (RAG). Questo strumento sfrutta NVIDIA AI Enterprise, che include NVIDIA NIM per l’IA generativa, e framework open-source come LLama Index per trasformare schede tecniche di prodotti, manuali e documenti interni in un tutor intelligente per l’onboarding dei dipendenti e le richieste dei clienti.
