AI-arkitekturlager

  • 6 minuter

För att förstå hur attacker mot AI kan inträffa kan du separera AI-arkitekturen i tre lager, som du ser i utställningen:

  • AI-användningslager
  • AI-programskikt
  • AI-plattformslager

Ett diagram över ai-arkitekturlagren

AI-användningslager

AI-användningsskiktet beskriver hur AI-funktioner i slutändan används och används. Generativ AI erbjuder en ny typ av användar-/datorgränssnitt som skiljer sig i grunden från andra datorgränssnitt (API, kommandotolk och grafiska användargränssnitt (GUIs).) Det generativa AI-gränssnittet är både interaktivt och dynamiskt, vilket gör att datorfunktionerna kan anpassas efter användaren och deras avsikt. Detta står i kontrast till tidigare gränssnitt som främst tvingar användarna att lära sig systemdesignen och funktionerna för att uppnå sina mål. Med den här interaktiviteten kan användarindata ha en hög påverkan av systemets utdata (jämfört med programdesigners), vilket gör skyddsräcken kritiska för att skydda personer, data och affärstillgångar.

Att skydda AI på AI-användningsnivå liknar att skydda alla datorsystem eftersom det förlitar sig på säkerhetsgarantier för identitets- och åtkomstkontroller, enhetsskydd och övervakning, dataskydd och styrning, administrativa kontroller och andra kontroller.

Ytterligare betoning krävs på användarbeteende och ansvarsskyldighet på grund av det ökade inflytande som användarna har på systemens utdata. Det är viktigt att uppdatera acceptabla användningsprinciper och utbilda användarna om dem. Dessa bör omfatta AI-specifika överväganden som rör säkerhet, sekretess och etik. Dessutom bör användare utbildas om AI-baserade attacker som kan användas för att lura dem med övertygande falsk text, röster, videor och mycket mer.

AI-programlager

På AI-programnivån får programmet åtkomst till AI-funktionerna och tillhandahåller den tjänst eller det gränssnitt som används av användaren. Komponenterna i det här lagret kan variera från relativt enkla till mycket komplexa, beroende på programmet. De enklaste fristående AI-programmen fungerar som ett gränssnitt till en uppsättning API:er som tar en textbaserad användarprompt ̧ och skickar dessa data till modellen för ett svar. Mer komplexa AI-program inkluderar möjligheten att jorda användarprompten med ytterligare kontext, inklusive ett beständigt lager, semantiskt index ̧ eller via plugin-program för att ge åtkomst till ytterligare datakällor. Avancerade AI-program kan också samverka med befintliga program och system. dessa kan fungera i text, ljud och bilder för att generera olika typer av innehåll.

För att skydda AI-programmet från skadliga aktiviteter på det här lagret måste ett programsäkerhetssystem byggas för att ge en djup inspektion av innehållet som används i begäran som skickas till AI-modellen och interaktionerna med eventuella plugin-program, dataanslutningar och andra AI-program (kallas AI Orchestration).

AI-plattformslager

AI-plattformsskiktet tillhandahåller AI-funktionerna till programmen. På plattformslagret finns det ett behov av att bygga och skydda infrastrukturen som kör AI-modellen, träningsdata och specifika konfigurationer som ändrar modellens beteende, till exempel vikter och fördomar. Det här lagret ger åtkomst till funktioner via API:er, som skickar text som kallas metaprompt till AI-modellen för bearbetning och sedan returnerar det genererade resultatet, som kallas fråga-svar.

För att skydda AI-plattformen från skadliga indata måste ett säkerhetssystem skapas för att filtrera bort de potentiellt skadliga instruktioner som skickas till AI-modellen (indata). Eftersom AI-modeller är generativa finns det också en potential att skadligt innehåll kan genereras och returneras till användaren (utdata). Alla säkerhetssystem måste först skydda mot potentiellt skadliga indata och utdata från många klassificeringar, inklusive hat, jailbreaks och andra. Klassificeringar kommer sannolikt att utvecklas över tid baserat på modellkunskap, nationella inställningar och bransch.