Introduzione: Esercitazione sull'agente di intelligenza artificiale generativa end-to-end
Questa esercitazione per l'agente di intelligenza artificiale generativa (in precedenza denominata cookbook di intelligenza artificiale) e il codice di esempio consente di passare da un modello di verifica (POC) a un'applicazione di alta qualità pronta per la produzione usando Mosaic AI Agent Evaluation e Mosaic AI Agent Framework sulla piattaforma Databricks. È anche possibile usare il repository GitHub come modello con cui creare applicazioni di intelligenza artificiale personalizzate.
Vedere un elenco delle pagine nell'esercitazione sull'agente di intelligenza artificiale generativa.
Suggerimento
Esistono alcuni modi per creare un'app rag usando questa esercitazione:
- Sono disponibili solo alcuni minuti e si vuole visualizzare una demo di Mosaic AI Agent Framework & Agent Evaluation.
- Si vuole accedere direttamente al codice e distribuire un modello di verifica rag usando i dati.
- Non sono presenti dati, ma si vuole distribuire un'applicazione RAG di esempio.
Cosa si intende per intelligenza artificiale di alta qualità?
L'esercitazione sull'agente di intelligenza artificiale generativa di Databricks è una guida pratica per la creazione di applicazioni di intelligenza artificiale generative di alta qualità. Le applicazioni di alta qualità sono:
- Accurate: forniscono risposte corrette
- Sicure: non forniscono risposte dannose o non sicure
- Regolamentate: rispettano le autorizzazioni dei dati e i controlli di accesso e tengono traccia della derivazione
Questa esercitazione descrive il flusso di lavoro di sviluppo delle procedure consigliate di Databricks per la creazione di app RAG di alta qualità: sviluppo basato sulla valutazione. Descrive i modi più rilevanti per aumentare la qualità delle applicazioni RAG e fornisce un repository completo di codice di esempio che implementa tali tecniche.
Approccio di Databricks alla qualità
Databricks adotta l'approccio seguente alla qualità dell'intelligenza artificiale:
- Ciclo di sviluppo rapido e code-first per eseguire rapidamente l'iterazione sulla qualità.
- Semplificare la raccolta di commenti e suggerimenti umani.
- Fornire un framework per la misurazione rapida e affidabile della qualità dell'app.
Questa esercitazione è destinata all'uso con la piattaforma Databricks. In particolare:
- Mosaic AI Agent Framework che fornisce un flusso di lavoro di sviluppo rapido con LLMops e governance pronti per l'azienda.
- Mosaic AI Agent Evaluation che fornisce misurazioni affidabili e di qualità usando giudici LLM con intelligenza artificiale proprietaria per misurare le metriche di qualità basate sul feedback umano raccolte tramite un'interfaccia utente di chat intuitiva basata sul Web.
Flussi di lavoro basati su codice
Scegliere il flusso di lavoro seguente più adatto alle proprie esigenze:
Tempo necessario | Obiettivo | Collega |
---|---|---|
10 minuti | App RAG di esempio distribuita nell'app di chat basata sul Web che raccoglie commenti e suggerimenti | Demo di Rag |
2 ore | App RAG POC con i dati distribuiti in un'interfaccia utente di chat in grado di raccogliere feedback dagli stakeholder aziendali | Compilare e distribuire un POC |
1 ora | Valutazione completa della qualità, dei costi e della latenza dell'app POC | - Valutare POC - Identificare le cause radice dei problemi di qualità |