Configures Spark cluster & a single node Cassandra on CentOS

Laatst bijgewerkt: 28-2-2016

This project configures a Spark cluster (1 master and n-slave nodes) and a single node Cassandra on Azure using CentOS 7.x. The base image starts with CentOS 7.1 and it is updated to the latest version as part of the provisioning steps.

Deze ARM-sjabloon (Azure Resource Manager) is gemaakt door een lid van de community, niet door Microsoft. Elke ARM-sjabloon wordt aan u in licentie gegeven onder een licentieovereenkomst van de eigenaar, niet van Microsoft. Microsoft is niet verantwoordelijk voor ARM-sjablonen die door communityleden worden verstrekt en in licentie worden gegeven, en test deze sjablonen ook niet op veiligheid, compatibiliteit of prestaties. ARM-sjablonen van de community worden onder geen enkel programma of geen enkele service van Microsoft ondersteund, en worden 'AS IS' beschikbaar gesteld, zonder enige vorm van garantie.

Parameters

Parameternaam Beschrijving
storageMasterType Storage type that is used for master Spark node. This storage account is used to store VM disks.
storageSlaveType Storage type that is used for each of the slave Spark node. This storage account is used to store VM disks.
storageCassandraType Storage type that is used for Cassandra. This storage account is used to store VM disks.
vmMasterVMSize VM size for master Spark node. This VM can be sized smaller.
vmNumberOfSlaves Number of VMs to create to support the slaves. Each slave is created on it's own VM. Minimum of 2 & Maximum of 200 VMs.
vmSlaveVMSize VM size for slave Spark nodes. This VM should be sized based on workloads.
vmCassandraVMSize VM size for Cassandra node. This VM should be sized based on workloads.
vmAdminUserName Specific an admin username that should be used to login to the VM.
vmAdminPassword Specific an admin password that should be used to login to the VM.

De sjabloon gebruiken

PowerShell

New-AzureRmResourceGroupDeployment -Name <deployment-name> -ResourceGroupName <resource-group-name> -TemplateUri https://raw.githubusercontent.com/azure/azure-quickstart-templates/master/spark-and-cassandra-on-centos/azuredeploy.json
Azure PowerShell installeren en configureren

Opdrachtregel

azure config mode arm
azure group deployment create <my-resource-group> <my-deployment-name> --template-uri https://raw.githubusercontent.com/azure/azure-quickstart-templates/master/spark-and-cassandra-on-centos/azuredeploy.json
De platformoverschrijdende Azure-opdrachregelinterface installeren en configureren