Aikomuksen tunnistus- ja entiteettien poimintavaihtoehdot älykkäille sovelluskuormituksille
Aikomuksen tunnistaminen ja entiteettien poiminta ovat luonnollisen kielen ymmärtäminen avaintekijöitä.
Aikomuksen tunnistamiseen kuuluu käyttäjän tavoitteen tai tarkoituksen tunnistaminen syötteen takana. Jos käyttäjä esimerkiksi sanoo "Haluan varata lennon", tarkoituksena on varata lento. Aikomuksen tunnistus auttaa perämiestä ymmärtämään, mitä käyttäjän pyynnön perusteella on tehtävä.
Entiteettien poiminta sisältää tiettyjen tietojen tunnistamisen ja poimimisen käyttäjän syötteestä. Entiteetit voivat olla esimerkiksi päivämääriä, nimiä, sijainteja tai muita asiaankuuluvia tietoja. Esimerkiksi lauseessa "Varaa lento New Yorkiin 15. syyskuuta" "New York" ja "15. syyskuuta" ovat kokonaisuuksia.
Copilot käyttää aikomusta ymmärtääkseen käyttäjän tavoitteen ja entiteetit tunnistaakseen tehtävän suorittamiseen tarvittavat yksityiskohdat. Aikomuksen tunnistaminen ja entiteetin poiminta mahdollistavat siis sen, että copilot voi tarjota tarkkoja ja tehokkaita vastauksia käyttäjien kyselyihin.
Kun suunnittelet älykkään sovelluksen kuormitusta, sinun on valittava paras vaihtoehto aikomuksen tunnistamiseen ja entiteettien purkamiseen, jotta älykäs sovelluksesi kuormitus tarjoaa positiivisen käyttökokemuksen.
Määritelmät
| Termi | Määritelmä |
|---|---|
| NLU | Luonnollisen kielen ymmärtäminen on tekoälyn luonnollisen kielen käsittelyn osajoukko, joka keskittyy koneelliseen luetun ymmärtämiseen. |
| CLU | Keskustelukielen ymmärtäminen on Azure AI:n ominaisuus, joka mahdollistaa mukautettujen NLU mallien luomisen. |
| OTK | Suuri kielimalli on eräänlainen tekoälymalli, joka on suunniteltu ymmärtämään ja tuottamaan ihmiskieltä. |
| GPT | Generatiivinen esikoulutettu muuntaja viittaa suurten kielimallien perheeseen, joka käyttää muuntajan arkkitehtuuria ihmisen kaltaisen tekstin ymmärtämiseen ja tuottamiseen. |
| Dynaaminen ketjutus | Dynaaminen ketjutus on menetelmä generatiivisten toimintojen laukaisimien automatisoimiseksi. Sen sijaan, että määriteltäisiin manuaalisesti kaikki mahdolliset aihe tai käynnistinlause, dynaamisen ketjutuksen avulla tekoäly voi määrittää, mitkä aiheet tai laajennustoiminnot on kutsuttava keskustelun kontekstin perusteella. |
Oikean vaihtoehdon valitseminen aikomuksen tunnistamiseen ja entiteettien poimimiseen älykkään sovelluksen kuormituksessa sisältää useita keskeisiä näkökohtia:
Valmiit vs. mukautetut entiteetit: Arvioi, vastaavatko valmiit Copilot Studio entiteetit tarpeitasi. Valmiit entiteetit kattavat yleiset tietotyypit, kuten päivämäärät, numerot ja nimet. Jos sovelluksesi edellyttää toimialuekohtaisia tietoja, sinun on ehkä luotava mukautettuja entiteettejä.
Käyttäjän syötteiden monimutkaisuus: Ota huomioon käyttäjän syötteiden monimutkaisuus ja vaihtelevuus. Yksinkertaisissa skenaarioissa valmiit entiteetit voivat riittää. Monimutkaisemmissa vuorovaikutuksissa saatetaan tarvita mukautettuja entiteettejä ja lisämäärityksiä, kuten säännöllisiä lausekkeita (regex).
Paikan täyttö: Selvitä, vaatiiko sovelluksesi ennakoivaa paikan täyttämistä, jossa perämies etsii ja täyttää aktiivisesti puuttuvat tiedot käyttäjän syötteistä. Paikkojen täyttäminen voi parantaa käyttökokemusta vähentämällä jatkokysymysten tarvetta.
Suorituskyky ja skaalautuvuus: Arvioi valitsemasi menetelmän suorituskyky ja skaalautuvuus. Mukautetut entiteetit ja monimutkaiset määritykset vaativat usein enemmän käsittelytehoa ja voivat vaikuttaa vastaus aikoihin.
ylläpito helppous: Harkitse entiteettien ylläpidon ja päivittämisen helppoutta. Valmiita entiteettejä on helpompi hallita, kun taas mukautettuja entiteettejä on muokattava jatkuvasti sovelluksen kehittyessä.
Valitse vakio-NLU, Azure CLU tai dynaaminen ketjutus
In Copilot Studio, aihe tai toiminnon käynnistäminen voidaan saavuttaa käyttämällä NLU-vakiomallia, yhdistämällä tai ohittamalla se mukautetulla Azure CLU -mallilla tai korvaamalla NLU-malli kokonaan dynaamisella ketjutuksella, joka on GPT: n suuren kielen mallipohjainen malli.
| Vakiomalli NLU | Mukautettu Azure CLU -malli | Dynaaminen ketjutus | |
|---|---|---|---|
| Ammattilainen | Oletusarvoinen, valmis malli, joka on esikoulutettu ja jossa on useita ennalta määritettyjä entiteettityyppejä. Määritys tehdään lisäämällä käynnistinlauseita ja mukautettuja entiteettejä (joko suljettuja luetteloita, joissa on arvoja ja synonyymejä, tai säännöllisiä lausekkeita). |
Tukee useampia kieliä alkuperäisillä malleilla. Tukee aikomuksen käynnistämismallin mukauttamista tarkoituksen tunnistamisen parantamiseksi tai toimialan tiettyjen vaatimusten täyttämiseksi. Mahdollistaa monimutkaisten kokonaisuuksien poiminnan (esimerkiksi samantyyppiset). Entiteettien poiminnassa voidaan käyttää Copilot Studio myös vakiomuotoisia NLU. |
Käyttää GPT: n suurta kielimalli ja on esikoulutettu laajemmalle tietojoukolle. Pystyy käsittelemään useita aikomuksia ja ketjuaiheita ja / tai laajennuksia. Luo automaattisesti kysymyksiä puuttuville syötteille ja vastaa monimutkaisiin entiteetteihin ja kysymyksiin keskustelukontekstista. Määritys tehdään kuvaamalla aiheita, laajennustoimintoja, tuloja ja lähtöjä. |
| Vedättää | Yhden aikomuksen tunnistus kyselyä kohden. Ei voi jatkaa. Et voi muokata mallin toimintaa tai hienosäätää mallia. Se tarjotaan sellaisenaan. Useiden samantyyppisten entiteettien täyttäminen samassa kyselyssä edellyttää täsmennystä jokaiselle (esimerkiksi kaupungeista ja kaupunkeihin). |
Yhden aikomuksen tunnistus kyselyä kohden. Konfigurointi tehdään Azuressa lisämaksusta. Sillä on omat palvelurajansa, jotka on arvioitava. Azure CLU -aikomukset ja Copilot Studio -aiheet on synkronoitava huolellisesti. |
Koska kyseessä on generatiivinen tekoälyominaisuus, viestien lisensointipolttonopeus on korkeampi kuin tavallisissa aihe käynnistyvissä. |
Laukaisulausekkeet ja aukon täyttäminen
Kun kehität älykkäitä sovellusten työkuormia, käytä alkuperäisiä ominaisuuksia aikomuksen tunnistamisen parantamiseen ja keskustelujen virtaviivaistamiseen. Aloita tunnistamalla aihe laukaisulauseet olemassa olevista UKK-tietokannoista ja chat-transkriptioista varmistaaksesi, että odotetut lauseet ovat asiaankuuluvia ja tarkkoja. Mieti, miten entiteettejä käytetään. Voit esimerkiksi etsiä tilaustunnuksia säännöllisten lausekkeiden avulla, sähköpostien valmiita entiteettejä vai synonyymejä sisältävien toimintotyyppien suljettuja luetteloita. Suunnittele myös, miten testaat aihe käynnistimiä esimerkkilausekkeilla, jotta voit vahvistaa ja tarkentaa aikomuksen tunnistamisen ja entiteettien poimintaprosessien tarkkuutta. Lisätietoja on kohdassa Käyttöönottoon ja testaukseen liittyviä seikkoja.
Käynnistinlauseet
Laukaisulauseet kouluttavat perämiehesi NLU mallia. Ne auttavat perämiestä tunnistamaan käyttäjän lausunnot ja reagoimaan niihin tarkasti määrittelemällä tiettyjä lauseita, jotka laukaisevat tiettyjä aiheita. Näiden laukaisulauseiden oikea määritys varmistaa, että perämies tunnistaa käyttäjän tarkoituksen oikein ja reagoi asianmukaisesti. Jos perämies on epävarma siitä, mikä aihe käynnistää, se voi ehdottaa enintään kolmea potentiaalista aihe ehdokasta (useita vastaavia aiheita järjestelmän aihe) tai palata oletus vastaus jos aihe ei tunnisteta. Tämä mekanismi auttaa ylläpitämään keskustelun kulkua ja varmistaa, että perämies pystyy käsittelemään monenlaisia käyttäjän syötteitä tehokkaasti.
Entiteettien poiminta ja aukkojen täyttäminen
Entiteettien poiminta ja aukkojen täyttäminen ovat tärkeitä komponentteja tehokkaiden perämiesten kehittämisessä. Näiden prosessien avulla copilot voi hankkia ja käyttää tietoja tehokkaasti tunnistamalla ja poimimalla olennaisia tietoja käyttäjien kyselyistä.
Entiteettien poiminta sisältää käyttäjän syötteen jäsentämisen tiettyjen tietojen tunnistamiseksi. Esimerkiksi kyselyssä "Haluan tilata kolme suurta sinistä t-paitaa" perämiehen NLU mallin pitäisi poimia seuraavat entiteetit:
- Määrä: 3
- Väri: Sininen
- Koko: Suuri
- Tuotetyyppi: T-paita
Paikan täyttö on prosessi, jossa näitä poimittuja kokonaisuuksia käytetään tietyn tehtävän edellyttämien tietojen täydentämiseen. Tässä esimerkissä perämies tunnistaa aihe järjestykseksi ja täyttää tarvittavat paikat poimituilla entiteeteillä. Copilot pystyy ymmärtämään käyttäjän pyynnön kysymättä lisää kysymyksiä, mikä virtaviivaistaa vuorovaikutusta.
Entiteettien poiminnan ja paikkojen täyttämisen ansiosta perämiehet voivat käsitellä monimutkaisia kyselyjä tehokkaammin, tarjota tarkkoja ja asiayhteyteen liittyviä vastauksia ja parantaa käyttökokemusta.
Lisätietoja:
Integrointi Microsoft Copilot Studio Azure CLU:n kanssa
CLU-mallin integrointi perämieheen Copilot Studio voi parantaa merkittävästi perämiehen ominaisuuksia. Tämä integrointi sisältää Azure CLU -aikomusten Copilot Studio yhdistämismääritys aiheisiin, jolloin copilot ymmärtää käyttäjän aikomukset ja vastaa niihin tarkemmin. Lisäksi valmiita entiteettejä voidaan käyttää Azure CLU -entiteettien rinnalla, Copilot Studio mikä tarjoaa vankan kehyksen entiteettien poiminnalle.
Tätä integrointia harkittaessa on tärkeää arvioida, edellyttääkö älykäs sovelluksesi kuormitus Azure CLU:ta. Azure CLU tukee esimerkiksi useampia kieliä, toimialakohtaisia sanastoja ja monimutkaista entiteettien poimintaa, mikä voi olla välttämätöntä sovelluksellesi. Azure CLU:n mukautetut entiteettien poiminnat voivat myös mahdollistaa hiljaisen tai "onnekkaan" paikan täyttämisen, jolloin perämies voi käsitellä skenaarioita, kuten tunnistaa sekä lähde- että kohdekaupungit yhdellä lauseella kysymättä jatkokysymyksiä.
Toinen tärkeä näkökohta on varmistaa, että Azure CLU -palvelukiintiöt ja -rajoitukset vastaavat perämiehen käyttöä. Jos esimerkiksi odotat alle 1 000 puhelua, jotka edellyttävät aikomuksen tunnistamista minuutissa, voit määrittää Azure CLU:n käyttämällä S-tasoa. Tämä kokoonpano varmistaa, että perämiehesi pystyy käsittelemään odotetun työmäärän ylittämättä palvelurajoja tai aiheuttamatta odottamattomia kustannuksia.
Lisätietoja:
- Azure CLU -integroinnin yleiskatsaus
- Azure CLU -tuetut kielet
- Azure CLU -rajat
- Azure CLU -hinnoittelu
Rakenteiden aihe huomioon otettavia seikkoja
Aiheiden tehokas jäsentäminen on tärkeää luonnollisten ja saumattomien keskustelujen luomiseksi. Aiheet ovat erillisiä keskustelupolkuja, jotka yhdistettynä antavat käyttäjille mahdollisuuden olla vuorovaikutuksessa perämiehen kanssa sujuvasti. Tässä on joitain keskeisiä näkökohtia aihe rakenteiden suunnittelussa:
Käynnistimeen perustuvat aiheet: Nämä aiheet aktivoidaan käyttäjien lausuntojen perusteella ja toimivat aloituspisteinä. Määritä selkeät laukaisulausekkeet näille aiheille. Jos käynnistinlausekkeet ovat päällekkäisiä useissa aiheissa, harkitse kaikenkattavan aihe käyttöönottoa, joka voi ohjata asianmukaiseen aihe selventävien kysymysten esittämisen jälkeen. Entiteettien poiminnan ja paikkojen täyttämisen avulla nämä selventävät kysymykset voidaan ohittaa, jos tarvittavat tiedot on jo annettu.
Uudelleenohjaukseen perustuvat aiheet: Nämä aiheet käynnistyvät uudelleenohjaustoiminnoista, aktiviteeteista tai tapahtumista, ja useat muut aiheet voivat kutsua niitä. Ne olisi suunniteltava uudelleenkäytettäviksi ja modulaarisiksi, ja niissä olisi tulo- ja lähtömuuttujat, jotka helpottavat saumatonta integrointia erilaisiin keskustelupolkuihin.
Kahden käynnistimen aiheet: Jotkin aiheet voidaan käynnistää joko aikomuksen tunnistamisen tai eksplisiittisen uudelleenohjauksen avulla. Tämä joustavuus mahdollistaa dynaamisemmat ja reagoivammat keskustelut.
Keskustelun tehostaminen ja varmuuskopiointi: Luo vara-aiheita tilanteita varten, joissa käyttäjän kysely ei käynnistä vastaavia aihe. Nämä aiheet voivat tarjota yleisiä vastauksia tai ehdottaa asiaankuuluvia aiheita keskustelun kulun ylläpitämiseksi.
Suunnittelun lähestymistapa:
Mukautetut aiheet tärkeimmille skenaarioille: Kehitä muutamia mukautettuja aiheita tärkeimmille skenaarioille, joissa on asiaankuuluvia käynnistinlauseita ja uudelleenohjauksia. Käytä pää- ja alitason aihe rakennetta monimutkaisten vuorovaikutusten hallintaan. Jos kyseessä on tunnistamaton aikomus, ota käyttöön generatiivisia vastauksia ja varamekanismeja.
Täsmennysaiheet: Suunnittele täsmennysaiheiden käyttäminen toiminnoissa, jotka edellyttävät selventäviä kysymyksiä. Esimerkiksi käyttäjätilitoiminnot saattavat tarvita selvennystä toiminnon tyypistä (esimerkiksi luominen, lukituksen avaaminen, keskeyttäminen) ja mukana olevasta järjestelmästä (esimerkiksi SAP, ServiceNow,). Microsoft
Päällekkäisyyksien välttäminen: Voit välttää päällekkäistä sisältöä luomalla uudelleenkäytettäviä aiheita toistettaville dialogipoluille. Pääelementti aihe voi kutsua näitä uudelleenkäytettäviä aiheita, ja kun keskustelu on valmis, se voi jatkaa pääelementti aihe logiikkaa.
Lisätietoja:
Tunnistamattomien tarkoitusten käsittely
Tunnistamattomien tarkoitusten tehokas hallinta takaa sujuvan käyttökokemuksen. Tunnistamattomia aikomuksia esiintyy, kun perämies ei ymmärrä käyttäjän lausuntoa eikä ole riittävän luottavainen käynnistääkseen olemassa olevan aihe. Seuraavassa on joitakin ehdotuksia näiden skenaarioiden käsittelemiseksi:
Tunnistamattomien aikomusten hallinta: Ohjaa aluksi tunnistamattomat aikomukset keskustelun tehostamisen järjestelmän aihe, joka etsii vastauksia julkisista verkkosivustoista ja yrityksen resursseista, kuten SharePoint sivustoista. Jos olennaisia tietoja ei löydy, järjestelmä voi palata ChatGPT:n kaltaiseen kokemukseen käyttämällä mukautettua järjestelmäkehotetta Azure OpenAI GPT-4 -mallin kanssa. Tämä lähestymistapa varmistaa, että käyttäjät saavat hyödyllisiä vastauksia myös suunnittelemattomien kyselyjen aikana.
Integrointi ulkoisiin järjestelmiin: Harkitse, integroitko ulkoisia järjestelmiä osana varastrategiaasi. Esimerkiksi integrointi Azure OpenAI GPT-4 -malliin HTTP-pyyntöjen avulla yhteensopivan ChatGPT:n kaltaisen kokemuksen tarjoamiseksi.
Varakäytön seuranta: Tarkista säännöllisesti varajärjestelmään osuvien keskustelujen prosenttiosuus. Käytä näitä merkityksellisiä tietoja rikastuttaaksesi olemassa olevia aiheita tai luodaksesi uusia varmistaen, että copilot parantaa jatkuvasti ymmärrystään ja vastaus kykyjään.
vara-aihe ja generatiiviset vastaukset: Vara-järjestelmän aihe käynnistyy, kun vastaavaa aihe ei löydy. Jos generatiiviset vastaukset ovat käytössä, keskustelun tehostamisen aihe käynnistyy ensin tuntemattomista aikomustapahtumista ja sen jälkeen vara-aihe tarpeen mukaan. Tämä kerrostettu lähestymistapa auttaa hallitsemaan tunnistamattomia aikomuksia tehokkaasti.
Käytä keskustelun tehostamista ja varajärjestelmää: Generatiivisten vastausten avulla voit etsiä eri tietolähteitä tai integroida muihin järjestelmiin, kuten Azure Cognitive Service for Languageen. Tämä palvelu pystyy käsittelemään suuria määriä kysymys-vastaus-pareja ja sisältää chitchat-mallin satunnaisille kysymyksille.
Ydinskenaariot ja mukautetut aiheet: Varmista, että ydinskenaariot ja -aiheet on määritetty hyvin ja että niitä käsitellään mukautettujen aiheiden avulla. Määrittele selkeästi näiden aiheiden tulokset jäsennellyn ja tehokkaan keskusteluvirran ylläpitämiseksi.
Lokalisointi ja kielet
Kun rakennat copilotia, ota huomioon, mitä kieliä ja markkinoita älykkään sovelluksesi työmäärän on tuettava. Lokalisointi ja kielituki ovat kriittisiä tekijöitä, joilla varmistetaan, että älykäs sovelluksesi työmäärä vastaa erilaisten käyttäjäkuntien tarpeita. Seuraavassa on joitakin ehdotettuja lähestymistapoja:
Yksi perämies kieltä kohden: Tässä lähestymistavassa jokaiselle kielelle luodaan erillinen perämies. Se varmistaa, että jokainen perämies on täysin optimoitu omalle kielelleen; Useiden perämiesten ylläpitäminen voi kuitenkin olla resurssitehokasta.
Yksi copilot useille kielille (konfiguroidut käännökset): Tässä lähestymistavassa yksi copilot tukee useita kieliä, ja käännökset tarjotaan osana copilot-määritystä. Tämä lähestymistapa edellyttää käännösten päivittämistä aina, kun copilot päivitetään tai uutta sisältöä lisätään. Se tarjoaa tasapainon resurssitehokkuuden ja kielituen välillä, mutta edellyttää käännöspäivitysten huolellista hallintaa.
Yksi copilot useille kielille (reaaliaikaiset käännökset): Tämä menetelmä käyttää relepilottia reaaliaikaisten käännösten tarjoamiseen ajon aikana. Se mahdollistaa useampien kielten nopean käyttöönoton ja vähentää toistuvien käännöspäivitysten tarvetta. Se aiheuttaa kuitenkin riippuvuuden relepilottiin ja reaaliaikaiseen käännös kerros, kuten Azure Service Copilot ja Azure Cognitive Services Translator.
Keskeisiä huomioita:
Kielet ja markkinat: Kielet ja markkinat, joita copilotin on tuettava, vaikuttavat lokalisointistrategiaasi.
Yksi- vai monikielinen perämies: Päätä, kehitätkö yhden perämiehen, joka tukee useita kieliä, vai erilliset perämiehet kullekin kielelle. Tämä päätös riippuu tekijöistä, kuten resurssien saatavuudesta, ylläpito ominaisuuksista ja mukana olevien kielten monimutkaisuudesta.
Käännöksen ajoitus: Harkitse, pitäisikö käännökset asettaa määritysvaiheessa vai toimittaa reaaliajassa suorituksen aikana. Määritetyt käännökset tarjoavat vakautta ja hallintaa, kun taas reaaliaikaiset käännökset tarjoavat joustavuutta ja nopeaa käyttöönottoa.
Lisätietoja: