Catalogo e raccolte di modelli

Il Catalogo modelli in studio di Azure Machine Learning è l'hub per un'ampia gamma di open source di terze parti, nonché per i modelli di base sviluppati da Microsoft per diversi casi d'uso di linguaggio, riconoscimento vocale e visione. È possibile valutare, personalizzare e distribuire questi modelli con le funzionalità native per creare e rendere operativi i modelli di base open source su larga scala per integrare facilmente questi modelli con training preliminare nelle applicazioni con sicurezza e governance dei dati di livello aziendale.

  • Individuazione: esaminare le descrizioni dei modelli, provare l'inferenza di esempio e esplorare gli esempi di codice per valutare, ottimizzare o distribuire il modello.
  • Valutare: valutare se il modello è adatto per il carico di lavoro specifico fornendo dati di test personalizzati. Le metriche di valutazione semplificano la visualizzazione dell'esecuzione del modello selezionato nello scenario.
  • Ottimizzazione: personalizzare questi modelli usando i propri dati di training. Ottimizzazioni predefinite che velocizzano l'ottimizzazione e riducono la memoria e il calcolo necessari per l'ottimizzazione. Applicare le funzionalità di sperimentazione e rilevamento di Azure Machine Learning per organizzare i processi di training e trovare il modello più adatto alle proprie esigenze.
  • Distribuzione: distribuire modelli di base con training preliminare o modelli ottimizzati senza problemi agli endpoint online per l'inferenza in tempo reale o gli endpoint batch per l'elaborazione di set di dati di inferenza di grandi dimensioni in modalità processo. Applicare funzionalità di operazionalizzazione di Machine Learning leader del settore in Azure Machine Learning.
  • Importazione: i modelli open source vengono rilasciati frequentemente. È sempre possibile usare i modelli più recenti in Azure Machine Learning importando modelli simili a quelli nel catalogo. Ad esempio, è possibile importare modelli per le attività supportate che usano le stesse librerie.

Per iniziare, esplorare le raccolte di modelli o filtrando in base alle attività e alle licenze, per trovare il modello per il caso d'uso. Task chiama l'attività di inferenza per cui è possibile usare il modello di base. Finetuning-tasks elencare le attività per cui questo modello può essere ottimizzato. License chiama le informazioni sulle licenze.

Raccolte

Nel Catalogo modelli sono disponibili tre tipi di raccolte:

Modelli open source curati dall'intelligenza artificiale di Azure: i modelli open source più diffusi di terze parti curati da Azure Machine Learning. Questi modelli sono inclusi in un pacchetto per l'utilizzo predefinito e sono ottimizzati per l'uso in Azure Machine Learning, offrendo prestazioni e velocità effettiva all'avanguardia nell'hardware di Azure. Offrono supporto nativo per il training distribuito e possono essere facilmente trasferiti nell'hardware di Azure.

Le raccolte "Curate da Azure AI" e raccolte di partner come Meta, NVIDIA, Mistral AI sono tutte raccolte curate nel catalogo.

Modelli OpenAI di Azure, disponibili esclusivamente in Azure: distribuire modelli OpenAI di Azure tramite la raccolta "Azure Open AI" nel catalogo dei modelli.

Modelli transformers dell'hub HuggingFace: migliaia di modelli dell'hub HuggingFace sono accessibili tramite la raccolta "Hugging Face" per l'inferenza in tempo reale con endpoint online.

Importante

I modelli nel catalogo dei modelli sono coperti da licenze di terze parti. Comprendere la licenza dei modelli che si prevede di usare e verificare che la licenza consenta il caso d'uso. Alcuni modelli nel catalogo dei modelli sono attualmente in anteprima. I modelli sono in anteprima se si applicano una o più delle istruzioni seguenti:
Il modello non è utilizzabile (può essere distribuito, ottimizzato e valutato) all'interno di una rete isolata.
La creazione di pacchetti di modelli e lo schema di inferenza sono soggetti a modifiche per le versioni più recenti del modello. Per altre informazioni sull'anteprima, vedere Condizioni per l'utilizzo supplementari per le anteprime di Microsoft Azure.

Confrontare le funzionalità dei modelli in base alla raccolta

Funzionalità Modelli open source curati da Azure Machine Learning Modelli transformers dall'hub HuggingFace
Inferenza Inferenza online e batch Inferenza online
Valutazione e ottimizzazione Valutare e ottimizzare l'interfaccia utente, l'SDK o l'interfaccia della riga di comando non disponibile
Modelli di importazione Supporto limitato per l'importazione di modelli tramite SDK o interfaccia della riga di comando non disponibile

Confrontare gli attributi delle raccolte

Attributo Modelli open source curati da Azure Machine Learning Modelli transformers dall'hub HuggingFace
Formato dei modelli Curato in formato di modello MLFlow o Batch per la distribuzione senza codice senza problemi con endpoint online e batch Convertitori
Hosting di modelli Pesi del modello ospitati in Azure I pesi del modello vengono estratti su richiesta durante la distribuzione dall'hub HuggingFace.
Usare nell'area di lavoro isolata di rete Funzionalità out-of-the-box in uscita per l'uso di modelli. Alcuni modelli richiederanno la connessione in uscita ai domini pubblici per l'installazione di pacchetti in fase di esecuzione. Consentire l'accesso in uscita all'hub huggingFace, all'hub Docker e alle relative rete CDN
Supporto tecnico Supportato da Microsoft e coperto dal contratto di servizio di Azure Machine Learning HuggingFace crea e gestisce i modelli elencati nel HuggingFace Registro di sistema della community. Usare il forum HuggingFace o il supporto HuggingFace per assistenza.

Altre informazioni