Spark Batch - Create Spark Batch Job

Služba:

Synapse

Verze rozhraní API:

2020-12-01

Vytvořte novou dávkovou úlohu Sparku.

POST {endpoint}/livyApi/versions/{livyApiVersion}/sparkPools/{sparkPoolName}/batches

S volitelnými parametry:

POST {endpoint}/livyApi/versions/{livyApiVersion}/sparkPools/{sparkPoolName}/batches?detailed={detailed}

Parametry identifikátoru URI

Name	V	Vyžadováno	Typ	Description
endpoint	path	True	string	Vývojový koncový bod pracovního prostoru, například https://myworkspace.dev.azuresynapse.net.
livyApiVersion	path	True	string	Platná verze rozhraní API pro požadavek.
sparkPoolName	path	True	string	Název fondu sparků.
detailed	query		boolean	Volitelný parametr dotazu určující, jestli se podrobná odpověď vrátí nad rámec prosté livy.

Text požadavku

Name	Vyžadováno	Typ	Description
file	True	string
name	True	string
archives		string[]
args		string[]
artifactId		string
className		string
conf		object
driverCores		integer
driverMemory		string
executorCores		integer
executorMemory		string
files		string[]
jars		string[]
numExecutors		integer
pyFiles		string[]
tags		object

Odpovědi

Name	Typ	Description
200 OK	SparkBatchJob	Success

Příklady

Create new spark batch job.

Ukázkový požadavek

HTTP

POST myWorkspace.dev.azuresynapse.net/livyApi/versions/2019-11-01-preview/sparkPools/mySparkPool/batches?detailed=True

{
  "tags": null,
  "artifactId": "fill in here",
  "name": "jobname",
  "file": "abfss://",
  "className": "classname",
  "args": [],
  "jars": [],
  "files": [],
  "archives": [],
  "conf": null,
  "driverMemory": "4g",
  "driverCores": 4,
  "executorMemory": "2g",
  "executorCores": 4,
  "numExecutors": 2
}

Ukázková odpověď

Stavový kód:

200

{
  "livyInfo": null,
  "name": "jobname",
  "workspaceName": "myWorkspace",
  "sparkPoolName": "mySparkPool",
  "submitterName": "thetime",
  "submitterId": "thesubmitterid",
  "artifactId": "fill in here",
  "jobType": "SparkBatch",
  "result": "Failed",
  "schedulerInfo": null,
  "pluginInfo": null,
  "errorInfo": [],
  "tags": null,
  "id": 1,
  "appId": "fill in here",
  "appInfo": null,
  "state": "the state",
  "log": []
}

Definice

Name	Description
LivyStates	Stav dávky
PluginCurrentState
SchedulerCurrentState
SparkBatchJob
SparkBatchJobOptions
SparkBatchJobResultType	Výsledek dávkové úlohy Sparku
SparkBatchJobState
SparkErrorSource
SparkJobType	Typ úlohy.
SparkRequest
SparkScheduler
SparkServiceError
SparkServicePlugin

LivyStates

Stav dávky

Name	Typ	Description
busy	string
dead	string
error	string
idle	string
killed	string
not_started	string
recovering	string
running	string
shutting_down	string
starting	string
success	string

PluginCurrentState

Name	Typ	Description
Cleanup	string
Ended	string
Monitoring	string
Preparation	string
Queued	string
ResourceAcquisition	string
Submission	string

SchedulerCurrentState

Name	Typ	Description
Ended	string
Queued	string
Scheduled	string

SparkBatchJob

Name	Typ	Description
appId	string	ID aplikace této relace
appInfo	object	Podrobné informace o aplikaci
artifactId	string	Identifikátor artefaktu.
errorInfo	SparkServiceError[]	Informace o chybě
id	integer	ID relace.
jobType	SparkJobType	Typ úlohy.
livyInfo	SparkBatchJobState
log	string[]	Řádky protokolu.
name	string	Název dávky.
pluginInfo	SparkServicePlugin	Informace o modulu plug-in.
result	SparkBatchJobResultType	Výsledek dávkové úlohy Sparku
schedulerInfo	SparkScheduler	Informace o plánovači
sparkPoolName	string	Název fondu Sparku.
state	LivyStates	Stav dávky
submitterId	string	Identifikátor odesílejte.
submitterName	string	Jméno odesílateli.
tags	object	Značky.
workspaceName	string	Název pracovního prostoru.

SparkBatchJobOptions

Name	Typ	Description
archives	string[]
args	string[]
artifactId	string
className	string
conf	object
driverCores	integer
driverMemory	string
executorCores	integer
executorMemory	string
file	string
files	string[]
jars	string[]
name	string
numExecutors	integer
pyFiles	string[]
tags	object

SparkBatchJobResultType

Výsledek dávkové úlohy Sparku

Name	Typ	Description
Cancelled	string
Failed	string
Succeeded	string
Uncertain	string

SparkBatchJobState

Name	Typ	Description
currentState	string	stav úlohy Sparku.
deadAt	string	v době, kdy byl poprvé spatřený "mrtvý" stav livy.
jobCreationRequest	SparkRequest
killedAt	string	čas, kdy byl "zabit" stát livy poprvé spatřený.
notStartedAt	string	čas, kdy byl "not_started" stav livy poprvé viděn.
recoveringAt	string	čas, kdy byl první výskyt stavu "obnovování" livy.
runningAt	string	čas, kdy byl "spuštěný" stav livy.
startingAt	string	čas, kdy byl první výskyt stavu "počátečního" livy.
successAt	string	čas, kdy byl první výskyt stavu livy "úspěch".

SparkErrorSource

Name	Typ	Description
Dependency	string
System	string
Unknown	string
User	string

SparkJobType

Typ úlohy.

Name	Typ	Description
SparkBatch	string
SparkSession	string

SparkRequest

Name	Typ	Description
archives	string[]
args	string[]
className	string
conf	object
driverCores	integer
driverMemory	string
executorCores	integer
executorMemory	string
file	string
files	string[]
jars	string[]
name	string
numExecutors	integer
pyFiles	string[]

SparkScheduler

Name	Typ	Description
cancellationRequestedAt	string
currentState	SchedulerCurrentState
endedAt	string
scheduledAt	string
submittedAt	string

SparkServiceError

Name	Typ	Description
errorCode	string
message	string
source	SparkErrorSource

SparkServicePlugin

Name	Typ	Description
cleanupStartedAt	string
currentState	PluginCurrentState
monitoringStartedAt	string
preparationStartedAt	string
resourceAcquisitionStartedAt	string
submissionStartedAt	string