메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


solr 인스턴스가 한개 기동된 상태에서 collection을 생성하기 위해서 아래와 같이 -shards, -replicationFactor를 가용한것보다 
더 크게 지정하게 되면 write.lock  for client xxx.xxx.xxx.xxx already exists오류가 발생한다.
특히 Hdfs를 사용하는 경우는 solrconfig.xml파일에서 DirectoryFactory설정을
<directoryFactory name="DirectoryFactory" class="${solr.directoryFactory:solr.HdfsDirectoryFactory}">으로 반드시 변경해 주어야 한다.
또한

<lockType>${solr.lock.type:native}</lockType>을 <lockType>${solr.lock.type:hdfs}</lockType> 로 변경한다.


----------------실행명령---------------------
./solr create -c gc -shards 4 -replicationFactor 3 -n gc


------------------------------------오류 메세지--------------------------
Connecting to ZooKeeper at gsda1:2181,gsda2:2181,gsda3:2181 ...
Uploading /svc/apps/sda/bin/hadoop/solr-5.5.0/server/solr/configsets/data_driven_schema_configs/conf for config gc to ZooKeeper at gsda1:2181,gsda2:2181,gsda3:2181

Creating new collection 'gc' using command:
http://localhost:8080/solr/admin/collections?action=CREATE&name=gc&numShards=4&replicationFactor=3&maxShardsPerNode=4&collection.configName=gc


ERROR: Failed to create collection 'gc' due to: org.apache.solr.client.solrj.impl.HttpSolrClient$RemoteSolrException:Error from server at http://XXX.XXX.XXX.43:8080/solr: Error CREATEing SolrCore 'gc_shard2_replica3': Unable to create core [gc_shard2_replica3] Caused by: /user/root/solr/solrdf/index/write.lock for client xxx.xxx.xxx.xxx already exists
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFileInternal(FSNamesystem.java:2563)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFileInt(FSNamesystem.java:2450)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFile(FSNamesystem.java:2334)
        at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.create(NameNodeRpcServer.java:623)
        at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.create(ClientNamenodeProtocolServerSideTranslatorPB.java:397)
        at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)
        at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:616)
        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:969)
        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2049)
        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2045)
        at java.security.AccessController.doPrivileged(Native Method)
        at javax.security.auth.Subject.doAs(Subject.java:422)
        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2043)
번호 제목 글쓴이 날짜 조회 수
541 시맨틱 관련 논문 모음 사이트 총관리자 2017.06.13 95
540 [Elephas] Jena Elephas를 이용하여 Spark에서 rdfTriples의 RDD를 만들고 RDD관련 작업하는 샘플소스 총관리자 2016.08.10 96
539 [2.7.2] distribute-exclude.sh사용할때 ssh 포트변경에 따른 오류발생시 조치사항 총관리자 2018.01.02 96
538 에러 추적(Error Tracking) 및 로그 취합(logging aggregation) 시스템인 Sentry 설치 총관리자 2018.03.14 96
537 impala session type별 표시되는 정보로 구분하는 방법 총관리자 2021.05.25 97
» collection생성시 -shards와 -replicationFactor값을 잘못지정하면 write.lock for client xxx.xxx.xxx.xxx already exists오류가 발생한다. 총관리자 2016.04.28 98
535 It is indirectly referenced from required .class files 오류 발생시 조치방법 총관리자 2017.03.09 98
534 HBase write 성능 튜닝 file 총관리자 2017.07.18 98
533 Kudu tablet이 FAILED일때 원인 확인 방법 총관리자 2022.01.17 98
532 Jena는 기본적으로 multi thread환경을 지원하지 않는다. 총관리자 2016.08.16 99
531 우분투 16.04LTS에 Jupyter설치 총관리자 2018.04.17 99
530 원격에 있는 git를 받은후 기존repository삭제후 새로운 리포지토리에 연결하여 소스 등록 총관리자 2019.07.13 99
529 kudu rebalance수행 command예시 총관리자 2022.01.17 99
528 참고할만한 spark예제를 설명하는 사이트 총관리자 2016.11.11 100
527 php auction 프로그램 총관리자 2017.05.14 100
526 RDF storage조합에대한 test결과(4store, Jena+HBase, Hive+HBase, CumulusRDF, Couchbase) 페이지 링크 총관리자 2016.05.26 103
525 kafkaWordCount.scala의 producer와 consumer 클래스를 이용하여 kafka를 이용한 word count 테스트 하기 총관리자 2016.08.02 104
524 [TLS/SSL]Cloudera CDH6.3.4기준 Hue TLS설정 항목 총관리자 2022.05.13 104
523 TopBraid Composer에서 SPIN 사용법 file 총관리자 2016.02.25 105
522 https://github.com/Merck/Halyard프로젝트 컴파일및 배포/테스트 총관리자 2017.01.24 105

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로