메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


solr 인스턴스가 한개 기동된 상태에서 collection을 생성하기 위해서 아래와 같이 -shards, -replicationFactor를 가용한것보다 
더 크게 지정하게 되면 write.lock  for client xxx.xxx.xxx.xxx already exists오류가 발생한다.
특히 Hdfs를 사용하는 경우는 solrconfig.xml파일에서 DirectoryFactory설정을
<directoryFactory name="DirectoryFactory" class="${solr.directoryFactory:solr.HdfsDirectoryFactory}">으로 반드시 변경해 주어야 한다.
또한

<lockType>${solr.lock.type:native}</lockType>을 <lockType>${solr.lock.type:hdfs}</lockType> 로 변경한다.


----------------실행명령---------------------
./solr create -c gc -shards 4 -replicationFactor 3 -n gc


------------------------------------오류 메세지--------------------------
Connecting to ZooKeeper at gsda1:2181,gsda2:2181,gsda3:2181 ...
Uploading /svc/apps/sda/bin/hadoop/solr-5.5.0/server/solr/configsets/data_driven_schema_configs/conf for config gc to ZooKeeper at gsda1:2181,gsda2:2181,gsda3:2181

Creating new collection 'gc' using command:
http://localhost:8080/solr/admin/collections?action=CREATE&name=gc&numShards=4&replicationFactor=3&maxShardsPerNode=4&collection.configName=gc


ERROR: Failed to create collection 'gc' due to: org.apache.solr.client.solrj.impl.HttpSolrClient$RemoteSolrException:Error from server at http://XXX.XXX.XXX.43:8080/solr: Error CREATEing SolrCore 'gc_shard2_replica3': Unable to create core [gc_shard2_replica3] Caused by: /user/root/solr/solrdf/index/write.lock for client xxx.xxx.xxx.xxx already exists
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFileInternal(FSNamesystem.java:2563)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFileInt(FSNamesystem.java:2450)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFile(FSNamesystem.java:2334)
        at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.create(NameNodeRpcServer.java:623)
        at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.create(ClientNamenodeProtocolServerSideTranslatorPB.java:397)
        at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)
        at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:616)
        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:969)
        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2049)
        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2045)
        at java.security.AccessController.doPrivileged(Native Method)
        at javax.security.auth.Subject.doAs(Subject.java:422)
        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2043)
번호 제목 글쓴이 날짜 조회 수
541 에러 추적(Error Tracking) 및 로그 취합(logging aggregation) 시스템인 Sentry 설치 총관리자 2018.03.14 94
540 Authorization within Hadoop Projects gooper 2022.06.13 94
539 journalnode노드 기동시 "should be an absolute path"가 발생하고 기동되지 않을 경우 확인사항 총관리자 2016.09.22 95
538 MongoDB에 있는 특정컬럼의 값을 casting(string->integer)하여 update하기 java 소스 총관리자 2016.12.19 95
537 시맨틱 관련 논문 모음 사이트 총관리자 2017.06.13 95
536 impala session type별 표시되는 정보로 구분하는 방법 총관리자 2021.05.25 96
535 Kudu tablet이 FAILED일때 원인 확인 방법 총관리자 2022.01.17 96
» collection생성시 -shards와 -replicationFactor값을 잘못지정하면 write.lock for client xxx.xxx.xxx.xxx already exists오류가 발생한다. 총관리자 2016.04.28 97
533 It is indirectly referenced from required .class files 오류 발생시 조치방법 총관리자 2017.03.09 98
532 원격에 있는 git를 받은후 기존repository삭제후 새로운 리포지토리에 연결하여 소스 등록 총관리자 2019.07.13 98
531 Jena는 기본적으로 multi thread환경을 지원하지 않는다. 총관리자 2016.08.16 99
530 php auction 프로그램 총관리자 2017.05.14 99
529 우분투 16.04LTS에 Jupyter설치 총관리자 2018.04.17 99
528 kudu rebalance수행 command예시 총관리자 2022.01.17 99
527 참고할만한 spark예제를 설명하는 사이트 총관리자 2016.11.11 100
526 [TLS/SSL]Cloudera CDH6.3.4기준 Hue TLS설정 항목 총관리자 2022.05.13 100
525 RDF storage조합에대한 test결과(4store, Jena+HBase, Hive+HBase, CumulusRDF, Couchbase) 페이지 링크 총관리자 2016.05.26 103
524 kafkaWordCount.scala의 producer와 consumer 클래스를 이용하여 kafka를 이용한 word count 테스트 하기 총관리자 2016.08.02 103
523 HA(Namenode, ResourceManager, Kerberos) 및 보안(Zookeeper, Hadoop) 총관리자 2018.03.16 103
522 elasticsearch에서 모든 인덱스(색인)을 삭제하는 방법 총관리자 2019.06.09 104

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로