网络公司做的网站根目录在哪,网站建设必备条件,网络营销品牌案例,网站制作建设兴田德1. 什么是SolrCloud
1.1. 什么是SolrCloud SolrCloud(solr 云)是Solr提供的分布式搜索方案#xff0c;当你需要大规模#xff0c;容错#xff0c;分布式索引和检索能力时使用SolrCloud。当一个系统的索引数据量少的时候是不需要使用SolrCloud的#xff0c;当索引量很大当你需要大规模容错分布式索引和检索能力时使用SolrCloud。当一个系统的索引数据量少的时候是不需要使用SolrCloud的当索引量很大搜索请求并发很高这时需要使用SolrCloud来满足这些需求。 SolrCloud是基于Solr和Zookeeper的分布式搜索方案它的主要思想是使用Zookeeper作为集群的配置信息中心。 它有几个特色功能 1集中式的配置信息 2自动容错 3近实时搜索 4查询时自动负载均衡
1.1.1. zookeeper是个什么玩意 顾名思义zookeeper就是动物园管理员他是用来管hadoop大象、Hive(蜜蜂)、pig(小猪)的管理员 Apache Hbase和 Apache Solr 的分布式集群都用到了zookeeperZookeeper:是一个分布式的、开源的程序协调服务是hadoop项目下的一个子项目。
1.1.2. Zookeeper可以干哪些事情
1、配置管理 在我们的应用中除了代码外还有一些就是各种配置。比如数据库连接等。一般我们都是使用配置文件的方式在代码中引入这些配置文件。但是当我们只有一种配置只有一台服务器并且不经常修改的时候使用配置文件是一个很好的做法但是如果我们配置非常多有很多服务器都需要这个配置而且还可能是动态的话使用配置文件就不是个好主意了。这个时候往往需要寻找一种集中管理配置的方法我们在这个集中的地方修改了配置所有对这个配置感兴趣的都可以获得变更。比如我们可以把配置放在数据库里然后所有需要配置的服务都去这个数据库读取配置。但是因为很多服务的正常运行都非常依赖这个配置所以需要这个集中提供配置服务的服务具备很高的可靠性。一般我们可以用一个集群来提供这个配置服务但是用集群提升可靠性那如何保证配置在集群中的一致性呢这个时候就需要使用一种实现了一致性协议的服务了。Zookeeper就是这种服务它使用Zab这种一致性协议来提供一致性。现在有很多开源项目使用Zookeeper来维护配置比如在HBase中客户端就是连接一个Zookeeper获得必要的HBase集群的配置信息然后才可以进一步操作。还有在开源的消息队列Kafka中也使用Zookeeper来维护broker的信息。在Alibaba开源的SOA框架Dubbo中也广泛的使用Zookeeper管理一些配置来实现服务治理。
2、名字服务 名字服务这个就很好理解了。比如为了通过网络访问一个系统我们得知道对方的IP地址但是IP地址对人非常不友好这个时候我们就需要使用域名来访问。但是计算机是不能是别域名的。怎么办呢如果我们每台机器里都备有一份域名到IP地址的映射这个倒是能解决一部分问题但是如果域名对应的IP发生变化了又该怎么办呢于是我们有了DNS这个东西。我们只需要访问一个大家熟知的(known)的点它就会告诉你这个域名对应的IP是什么。在我们的应用中也会存在很多这类问题特别是在我们的服务特别多的时候如果我们在本地保存服务的地址的时候将非常不方便但是如果我们只需要访问一个大家都熟知的访问点这里提供统一的入口那么维护起来将方便得多了。
3、分布式锁 其实在第一篇文章中已经介绍了Zookeeper是一个分布式协调服务。这样我们就可以利用Zookeeper来协调多个分布式进程之间的活动。比如在一个分布式环境中为了提高可靠性我们的集群的每台服务器上都部署着同样的服务。但是一件事情如果集群中的每个服务器都进行的话那相互之间就要协调编程起来将非常复杂。而如果我们只让一个服务进行操作那又存在单点。通常还有一种做法就是使用分布式锁在某个时刻只让一个服务去干活当这台服务出问题的时候锁释放立即fail over到另外的服务。这在很多分布式系统中都是这么做这种设计有一个更好听的名字叫Leader Election(leader选举)。比如HBase的Master就是采用这种机制。但要注意的是分布式锁跟同一个进程的锁还是有区别的所以使用的时候要比同一个进程里的锁更谨慎的使用。
4、集群管理 在分布式的集群中经常会由于各种原因比如硬件故障软件故障网络问题有些节点会进进出出。有新的节点加入进来也有老的节点退出集群。这个时候集群中其他机器需要感知到这种变化然后根据这种变化做出对应的决策。比如我们是一个分布式存储系统有一个中央控制节点负责存储的分配当有新的存储进来的时候我们要根据现在集群目前的状态来分配存储节点。这个时候我们就需要动态感知到集群目前的状态。还有比如一个分布式的SOA架构中服务是一个集群提供的当消费者访问某个服务时就需要采用某种机制发现现在有哪些节点可以提供该服务(这也称之为服务发现比如Alibaba开源的SOA框架Dubbo就采用了Zookeeper作为服务发现的底层机制)。还有开源的Kafka队列就采用了Zookeeper作为Cosnumer的上下线管理。
1.2. SolrCloud结构 SolrCloud为了降低单机的处理压力需要由多台服务器共同来完成索引和搜索任务。实现的思路是将索引数据进行Shard分片拆分每个分片由多台的服务器共同完成当一个索引或搜索请求过来时会分别从不同的Shard的服务器中操作索引。 SolrCloud需要Solr基于Zookeeper部署Zookeeper是一个集群管理软件由于SolrCloud需要由多台服务器组成由zookeeper来进行协调管理。
下图是一个SolrCloud应用的例子 对上图进行图解如下 1.2.1. 物理结构 三个Solr实例 每个实例包括两个Core组成一个SolrCloud。
1.2.2. 逻辑结构 索引集合包括两个Shardshard1和shard2shard1和shard2分别由三个Core组成其中一个Leader两个ReplicationLeader是由zookeeper选举产生zookeeper控制每个shard上三个Core的索引数据一致解决高可用问题。 用户发起索引请求分别从shard1和shard2上获取解决高并发问题。
1.1.1.1. Collection Collection在SolrCloud集群中是一个逻辑意义上的完整的索引结构。它常常被划分为一个或多个Shard分片它们使用相同的配置信息。 比如针对商品信息搜索可以创建一个collection。 collectionshard1shard2....shardX
1.1.1.2. Core 每个Core是Solr中一个独立运行单位提供索引和搜索服务。一个shard需要由一个Core或多个Core组成。由于collection由多个shard组成所以collection一般由多个core组成。
1.1.1.3. Master或Slave Master是master-slave结构中的主结点通常说主服务器Slave是master-slave结构中的从结点通常说从服务器或备服务器。同一个Shard下master和slave存储的数据是一致的这是为了达到高可用目的。
1.1.1.4. Shard Collection的逻辑分片。每个Shard被化成一个或者多个replication通过选举确定哪个是Leader。
2. SolrCloud搭建 本教程的这套安装是单机版的安装所以采用伪集群的方式进行安装如果是真正的生产环境将伪集群的ip改下就可以了步骤是一样的。
SolrCloud结构图如下 2.1 环境准备 CentOS-6.4-i386-bin-DVD1.iso jdk-7u72-linux-i586.tar.gz apache-tomcat-7.0.47.tar.gz zookeeper-3.4.6.tar.gz solr-4.10.3.tgz
2.2 环境安装
2.2.1 CentOs6.4安装
略 2.2.2 jdk7安装
略 2.2.3 zookeeper集群安装 第一步解压zookeepertar -zxvf zookeeper-3.4.6.tar.gz将zookeeper-3.4.6拷贝到/usr/local/solrcloud下复制三份分别并将目录名改为zookeeper1、zookeeper2、zookeeper3
第二步进入zookeeper1文件夹创建data目录。并在data目录中创建一个myid文件内容为“1”echo 1 data/myid。
第三步进入conf文件夹把zoo_sample.cfg改名为zoo.cfg
第四步修改zoo.cfg。
修改
dataDir/usr/local/solrcloud/zookeeper1/data
clientPort2181zookeeper2中为2182、zookeeper3中为2183
添加
server.1192.168.25.154:2881:3881
server.2192.168.25.154:2882:3882
server.3192.168.25.154:2883:3883 # The number of milliseconds of each tick tickTime2000 # The number of ticks that the initial # synchronization phase can take initLimit10 # The number of ticks that can pass between # sending a request and getting an acknowledgement syncLimit5 # the directory where the snapshot is stored. # do not use /tmp for storage, /tmp here is just # example sakes. dataDir/usr/local/solrcloud/zookeeper1/data # the port at which the clients will connect clientPort2181 # the maximum number of client connections. # increase this if you need to handle more clients #maxClientCnxns60 # # Be sure to read the maintenance section of the # administrator guide before turning on autopurge. # # http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance # # The number of snapshots to retain in dataDir #autopurge.snapRetainCount3 # Purge task interval in hours # Set to 0 to disable auto purge feature #autopurge.purgeInterval1 server.1192.168.25.154:2881:3881 server.2192.168.25.154:2882:3882 server.3192.168.25.154:2883:3883 第五步对zookeeper2、3中的设置做第二步至第四步修改。
zookeeper2
myid内容为2
dataDir/usr/local/solrcloud/zookeeper2/data
clientPort2182
Zookeeper3
的myid内容为3
dataDir/usr/local/solrcloud/zookeeper3/data
clientPort2183
第六步启动三个zookeeper
/usr/local/solrcloud/zookeeper1/bin/zkServer.shstart
/usr/local/solrcloud/zookeeper2/bin/zkServer.shstart
/usr/local/solrcloud/zookeeper3/bin/zkServer.shstart
查看集群状态
/usr/local/solrcloud/zookeeper1/bin/zkServer.shstatus
/usr/local/solrcloud/zookeeper2/bin/zkServer.shstatus
/usr/local/solrcloud/zookeeper3/bin/zkServer.shstatus
第七步开启zookeeper用到的端口或者直接关闭防火墙。
service iptables stop
2.3 tomcat安装
第一步将apache-tomcat-7.0.47.tar.gz解压 tar-zxvf apache-tomcat-7.0.47.tar.gz
第二步把解压后的tomcat复制到/usr/local/solrcloud/目录下复制四份。 /usr/local/solrcloud/tomcat1 /usr/local/solrcloud/tomcat2 /usr/local/solrcloud/tomcat3 /usr/local/solrcloud/tomcat4
第三步修改tomcat的server.xml vim tomcat2/conf/server.xml把其中的端口后都加一。保证两个tomcat可以正常运行不发生端口冲突。
2.4. SolrCloud部署
2.4.1. 启动zookeeper solrCloud部署依赖zookeeper需要先启动每一台zookeeper服务器。
2.5.2. zookeeper管理配置文件 由于zookeeper统一管理solr的配置文件主要是schema.xml、solrconfig.xml solrCloud各各节点使用zookeeper管理的配置文件。 将上边部署的solr单机的conf拷贝到/home/solr下。 执行下边的命令将/home/solr/conf下的配置文件上传到zookeeper此命令为单条命令虽然很长o(╯□╰)o。此命令在solr-4.10.3/example/scripts/cloud-scripts/目录下 ./zkcli.sh -zkhost 192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183 -cmd upconfig -confdir /usr/local/solrcloud/solrhome1/collection1/conf -confname myconf 登陆zookeeper服务器查询配置文件 cd /usr/local/zookeeper/bin/ ./zkCli.sh 2.5.3. 修改SolrCloud监控端口
修改每个solrhome的solr.xml文件。将host改成虚拟机ip地址port改成对应的tomcat的端口号。 2.5.4. 每一台solr和zookeeper关联
修改每一台solr的tomcat 的 bin目录下catalina.sh文件中加入DzkHost指定zookeeper服务器地址
JAVA_OPTS-DzkHost192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183
可以使用vim的查找功能查找到JAVA_OPTS的定义的位置然后添加
2.5.5. 启动所有的solr服务
启动每一台solr的tomcat服务。
2.5.6. 访问solrcloud
访问任意一台solr左侧菜单出现Cloud 2.5.7 SolrCloud集群配置
上图中的collection1集群只有一片可以通过下边的方法配置新的集群。 如果集群中有四个solr节点创建新集群collection2将集群分为两片每片两个副本。
http://192.168.25.154:8080/solr/admin/collections?actionCREATEnamecollection2numShards2replicationFactor2 删除集群命令
http://192.168.25.154:8080/solr/admin/collections?actionDELETEnamecollection1
执行后原来的collection1删除如下 更多的命令请参数官方文档apache-solr-ref-guide-4.10.pdf
2.5.8. 启动solrCloud注意
启动solrCloud需要先启动solrCloud依赖的所有zookeeper服务器再启动每台solr服务器。
3. solrJ访问solrCloud publicclass SolrCloudTest {// zookeeper地址privatestatic String zkHostString 192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183;// collection默认名称比如我的solr服务器上的collection是collection2_shard1_replica1就是去掉“_shard1_replica1”的名称privatestatic String defaultCollection collection1;// cloudSolrServer实际private CloudSolrServercloudSolrServer;// 测试方法之前构造 CloudSolrServerBeforepublicvoid init() {cloudSolrServer new CloudSolrServer(zkHostString);cloudSolrServer.setDefaultCollection(defaultCollection);cloudSolrServer.connect();}// 向solrCloud上创建索引TestpublicvoidtestCreateIndexToSolrCloud() throws SolrServerException,IOException {SolrInputDocument document newSolrInputDocument();document.addField(id,100001);document.addField(title,李四);cloudSolrServer.add(document);cloudSolrServer.commit();}// 搜索索引TestpublicvoidtestSearchIndexFromSolrCloud() throws Exception {SolrQuery query new SolrQuery();query.setQuery(*:*);try {QueryResponse response cloudSolrServer.query(query);SolrDocumentList docs response.getResults();System.out.println(文档个数 docs.getNumFound());System.out.println(查询时间 response.getQTime());for (SolrDocumentdoc : docs) {ArrayList title (ArrayList) doc.getFieldValue(title);String id (String)doc.getFieldValue(id);System.out.println(id: id);System.out.println(title: title);System.out.println();}} catch (SolrServerException e){e.printStackTrace();} catch (Exception e) {System.out.println(Unknowned Exception!!!!);e.printStackTrace();}}// 删除索引TestpublicvoidtestDeleteIndexFromSolrCloud() throws SolrServerException, IOException {// 根据id删除UpdateResponse responsecloudSolrServer.deleteById(zhangsan);// 根据多个id删除// cloudSolrServer.deleteById(ids);// 自动查询条件删除// cloudSolrServer.deleteByQuery(product_keywords:教程);// 提交cloudSolrServer.commit();}
}
