HDInsight üzerinde Apache Hadoop hizmetleri tarafından kullanılan bağlantı noktaları
Bu belge, HDInsight kümelerinde çalışan Apache Hadoop hizmetleri tarafından kullanılan bağlantı noktalarının listesini sağlar. Ayrıca SSH kullanarak kümeye bağlanmak için kullanılan bağlantı noktaları hakkında bilgi sağlar.
Genel bağlantı noktaları ile genel olmayan bağlantı noktaları karşılaştırması
Linux tabanlı HDInsight kümeleri İnternet'te yalnızca üç bağlantı noktasını genel kullanıma sunar: 22, 23 ve 443. Bu bağlantı noktaları, güvenli HTTPS protokolü üzerinden kullanıma sunulan SSH ve hizmetleri kullanarak küme erişiminin güvenliğini sağlar.
HDInsight, bir Azure Sanal Ağ üzerinde çalışan birkaç Azure Sanal Makineler (küme düğümü) tarafından uygulanır. Sanal ağın içinden İnternet üzerinden kullanıma sunulmayan bağlantı noktalarına erişebilirsiniz. SSH aracılığıyla baş düğüme bağlanırsanız, küme düğümlerinde çalışan hizmetlere doğrudan erişebilirsiniz.
Önemli
HDInsight için yapılandırma seçeneği olarak bir Azure Sanal Ağ belirtmezseniz otomatik olarak bir tane oluşturulur. Ancak, diğer makineleri (diğer Azure Sanal Makineler veya istemci geliştirme makineniz gibi) bu sanal ağa ekleyemezsiniz.
Ek makineleri sanal ağa eklemek için önce sanal ağı oluşturmanız ve ardından HDInsight kümenizi oluştururken bunu belirtmeniz gerekir. Daha fazla bilgi için bkz. HDInsight için sanal ağ planlama.
Genel bağlantı noktaları
HDInsight kümesindeki tüm düğümler bir Azure Sanal Ağ bulunur. Düğümlere İnternet'ten doğrudan erişilemiyor. Genel ağ geçidi, tüm HDInsight küme türlerinde ortak olan aşağıdaki bağlantı noktalarına İnternet erişimi sağlar.
Hizmet | Bağlantı noktası | Protokol | Description |
---|---|---|---|
Sshd | 22 | SSH | İstemcileri birincil baş düğümdeki sshd'ye bağlar. Daha fazla bilgi için bkz. HDInsight ile SSH kullanma. |
Sshd | 22 | SSH | İstemcileri kenar düğümündeki sshd'ye bağlar. Daha fazla bilgi için bkz. HDInsight ile SSH kullanma. |
Sshd | 23 | SSH | İstemcileri ikincil baş düğümdeki sshd'ye bağlar. Daha fazla bilgi için bkz. HDInsight ile SSH kullanma. |
Ambari | 443 | HTTPS | Ambari web kullanıcı arabirimi. Bkz. Apache Ambari Web kullanıcı arabirimini kullanarak HDInsight'ı yönetme |
Ambari | 443 | HTTPS | Ambari REST API. Bkz. Apache Ambari REST API'sini kullanarak HDInsight'ı yönetme |
WebHCat | 443 | HTTPS | HCatalog REST API. Bkz . Curl ile MapReduce Kullanma |
HiveServer2 | 443 | ODBC | ODBC kullanarak Hive'a bağlanır. Bkz . Microsoft ODBC sürücüsüyle Excel'i HDInsight'a bağlama. |
HiveServer2 | 443 | JDBC | JDBC kullanarak ApacheHive'e bağlanır. Bkz. Hive JDBC sürücüsünü kullanarak HDInsight üzerinde Apache Hive'a bağlanma |
Belirli küme türleri için aşağıdakiler kullanılabilir:
Hizmet | Bağlantı noktası | Protokol | Küme türü | Description |
---|---|---|---|---|
Stargate |
443 | HTTPS | HBase | HBase REST API. Bkz. Apache HBase kullanmaya başlama |
Livy | 443 | HTTPS | Spark | Spark REST API. Bkz . Apache Livy kullanarak Apache Spark işlerini uzaktan gönderme |
Spark Thrift sunucusu | 443 | HTTPS | Spark | Hive sorguları göndermek için kullanılan Spark Thrift sunucusu. Bkz. HDInsight üzerinde Apache Hive ile Beeline kullanma |
Kafka REST ara sunucusu | 443 | HTTPS | Kafka | Kafka REST API. Bkz. REST proxy kullanarak Azure HDInsight'ta Apache Kafka kümeleriyle etkileşim kurma |
Kimlik Doğrulaması
İnternet'te genel kullanıma sunulan tüm hizmetlerin kimliği doğrulanmalıdır:
Bağlantı noktası | Kimlik bilgileri |
---|---|
22 veya 23 | Küme oluşturma sırasında belirtilen SSH kullanıcı kimlik bilgileri |
443 | Küme oluşturma sırasında ayarlanan oturum açma adı (varsayılan: yönetici) ve parola |
Genel olmayan bağlantı noktaları
Not
Bazı hizmetler yalnızca belirli küme türlerinde kullanılabilir. Örneğin, HBase yalnızca HBase küme türlerinde kullanılabilir.
Önemli
Bazı hizmetler aynı anda yalnızca bir baş düğümde çalışır. Birincil baş düğümde hizmete bağlanmayı dener ve bir hata alırsanız ikincil baş düğümü kullanarak yeniden deneyin.
Ambari
Hizmet | Düğümler | Bağlantı noktası | URL yolu | Protokol |
---|---|---|---|---|
Ambari web kullanıcı arabirimi | Baş düğümler | 8080 | / | HTTP |
Ambari REST API | Baş düğümler | 8080 | /api/v1 | HTTP |
Örnekler:
- Ambari REST API'si:
curl -u admin "http://10.0.0.11:8080/api/v1/clusters"
HDFS bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
NameNode web kullanıcı arabirimi | Baş düğümler | 30070 | HTTPS | Durumu görüntülemek için web kullanıcı arabirimi |
NameNode meta veri hizmeti | baş düğümler | 8020 | IPC | Dosya sistemi meta verileri |
DataNode | Tüm çalışan düğümleri | 30075 | HTTPS | Durumu, günlükleri vb. görüntülemek için web kullanıcı arabirimi. |
DataNode | Tüm çalışan düğümleri | 30010 | Veri aktarımı | |
DataNode | Tüm çalışan düğümleri | 30020 | IPC | Meta veri işlemleri |
İkincil Ad Düğümü | Baş düğümler | 50090 | HTTP | NameNode meta verilerinin denetim noktası |
YARN bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
Web kullanıcı arabirimini Resource Manager | Baş düğümler | 8088 | HTTP | Resource Manager için Web Kullanıcı Arabirimi |
Web kullanıcı arabirimini Resource Manager | Baş düğümler | 8090 | HTTPS | Resource Manager için Web Kullanıcı Arabirimi |
Resource Manager yönetici arabirimi | baş düğümler | 8141 | IPC | Uygulama gönderimleri için (Hive, Hive sunucusu, Pig vb.) |
Resource Manager zamanlayıcı | baş düğümler | 8030 | HTTP | Yönetim arabirimi |
uygulama arabirimini Resource Manager | baş düğümler | 8050 | HTTP | Uygulama yöneticisi arabiriminin adresi |
NodeManager | Tüm çalışan düğümleri | 30050 | Kapsayıcı yöneticisinin adresi | |
NodeManager web kullanıcı arabirimi | Tüm çalışan düğümleri | 30060 | HTTP | Resource Manager arabirimi |
Zaman çizelgesi adresi | Baş düğümler | 10200 | RPC | Zaman Çizelgesi hizmeti RPC hizmeti. |
Zaman çizelgesi web kullanıcı arabirimi | Baş düğümler | 8188 | HTTP | Zaman Çizelgesi hizmeti web kullanıcı arabirimi |
Hive bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
HiveServer2 | Baş düğümler | 10001 | Thrift | Hive'a bağlanma hizmeti (Thrift/JDBC) |
Hive Meta Veri Deposu | Baş düğümler | 9083 | Thrift | Hive meta verilerine bağlanma hizmeti (Thrift/JDBC) |
WebHCat bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
WebHCat sunucusu | Baş düğümler | 30111 | HTTP | Ve diğer Hadoop hizmetlerinin üzerinde Web API'si HCatalog |
MapReduce bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
JobHistory | Baş düğümler | 19888 | HTTP | MapReduce JobHistory web kullanıcı arabirimi |
JobHistory | Baş düğümler | 10020 | MapReduce JobHistory sunucusu | |
ShuffleHandler | 13562 | Ara Harita çıkışlarını istekte buluna Azaltıcılara aktarır |
Oozie
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
Oozie sunucusu | Baş düğümler | 11000 | HTTP | Oozie hizmetinin URL'si |
Oozie sunucusu | Baş düğümler | 11001 | HTTP | Oozie yöneticisi için bağlantı noktası |
Ambari Ölçümleri
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
TimeLine (Uygulama geçmişi) | Baş düğümler | 6188 | HTTP | TimeLine hizmeti web kullanıcı arabirimi |
TimeLine (Uygulama geçmişi) | Baş düğümler | 30200 | RPC | TimeLine hizmeti web kullanıcı arabirimi |
HBase bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
HMaster | Baş düğümler | 16000 | ||
HMaster bilgileri Web Kullanıcı Arabirimi | Baş düğümler | 16010 | HTTP | HBase Master web kullanıcı arabirimi için bağlantı noktası |
Bölge sunucusu | Tüm çalışan düğümleri | 16020 | ||
Bölge sunucusu bilgileri Web kullanıcı arabirimi | Tüm çalışan düğümleri | 16030 | HTTP | HBase Region sunucusu Web kullanıcı arabirimi için bağlantı noktası |
2181 | İstemcilerin ZooKeeper'a bağlanmak için kullandığı bağlantı noktası |
Kafka bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | Description |
---|---|---|---|---|
Aracı | Çalışan düğümleri | 9092 | Kafka Tel Protokolü | İstemci iletişimi için kullanılır |
Zookeeper düğümleri | 2181 | İstemcilerin Zookeeper'a bağlanmak için kullandığı bağlantı noktası | ||
REST proxy | Kafka yönetim düğümleri | 9400 | HTTPS | Kafka REST belirtimi |
Spark bağlantı noktaları
Hizmet | Düğümler | Bağlantı noktası | Protokol | URL yolu | Description |
---|---|---|---|---|---|
Spark Thrift sunucuları | Baş düğümler | 10002 | Thrift | Spark SQL'e bağlanma hizmeti (Thrift/JDBC) | |
Livy sunucusu | Baş düğümler | 8998 | HTTP | Deyimleri, işleri ve uygulamaları çalıştırma hizmeti | |
Jupyter Notebook | Baş düğümler | 8001 | HTTP | Jupyter Notebook web sitesi |
Örnekler:
- Livy:
curl -u admin -G "http://10.0.0.11:8998/"
. Bu örnekte Livy10.0.0.11
hizmetini barındıran baş düğümün IP adresidir.