엘라스틱서치:: Cluster-level shard allocation and routing settings

Intro::

엘라스틱서치 공식문서 정리본입니다.

Cluster-level shard allocation and routing settings

• 클러스터 수준 샤드 할당 설정은 할당 및 리밸런싱 작업을 제어합니다.

• 디스크 기반 샤드 할당 설정에서는 Elasticsearch가 사용 가능한 디스크 공간을 고려하는 방법과 관련 설정에 대해 설명합니다.

• 샤드 할당 인식 및 강제 인식은 샤드를 여러 랙 또는 가용성 영역에 분하는 방법을 제어합니다.

• 클러스터 수준의 샤드 할당 필터링을 사용하면 특정 노드 또는 노드 그룹을 할당에서 제외하여 해당 노드를 해제할 수 있습니다.

Cluster-level shard allocation settings

• all - (기본값) 모든 종류의 샤드에 대해 샤드 할당을 허용합니다.

• primaries - 기본 샤드에 대해서만 샤드 할당을 허용합니다.

• new_primaries - 새 인덱스의 기본 샤드에 대해서만 샤드 할당을 허용합니다.

• none - 모든 인덱스에 대해 어떤 종류의 샤드 할당도 허용하지 않습니다.

Shard rebalancing settings

• always - 항상 리밸런싱을 허용합니다.

• indices_primaries_active - 클러스터의 모든 프라이머리가 할당된 경우에만.

• indices_all_active - (기본값) 클러스터의 모든 샤드(프라이머리 및 복제본)가 할당된 경우에만.

• all- (기본값) 모든 종류의 샤드에 대해 샤드 밸런싱을 허용합니다.

• primaries- 프라이머리 샤드에 대해서만 샤드 밸런싱을 허용합니다.

• replicas - 복제 샤드에 대해서만 샤드 밸런싱을 허용합니다.

• none - 모든 인덱스에 대해 어떤 종류의 샤드 밸런싱도 허용하지 않습니다.

Shard balancing heuristics settings

NOTE

• 대규모 클러스터의 경우 항상 완벽한 균형 상태를 유지할 필요가 없을 수 있습니다. 클러스터가 완벽한 균형을 이루는 데 필요한 모든 샤드 이동을 수행하는 것보다 어느 정도 불균형 상태로 작동하는 것이 리소스 집약적입니다. 그렇다면 cluster.routing.allocation.balance.threshold 값을 늘려 노드 간 허용 가능한 불균형을 정의하세요. 예를 들어 노드당 평균 샤드가 500개이고 노드 간에 5%(일반적인 샤드 25개)의 차이를 허용할 수 있는 경우, cluster.routing.allocation.balance.threshold를 25로 설정합니다.

• 휴리스틱 가중치 계수 설정 값은 조정하지 않는 것이 좋습니다. 기본값은 모든 합리적인 클러스터에서 잘 작동합니다. 다른 값을 사용하면 현재 균형이 어느 정도 개선될 수 있지만, 향후 예기치 않은 문제가 발생하거나 예기치 않은 중단을 원활하게 처리하지 못할 수 있습니다.

• 밸런싱 알고리즘의 결과와 관계없이 강제 인식 및 할당 필터링과 같은 할당 규칙으로 인해 재밸런싱이 허용되지 않을 수도 있습니다. Cluster allocation explain API를 사용하여 현재 샤드 할당을 설명하세요.

Disk-based shard allocation settings

NOTE

노드가 때때로 일시적으로 높은 워터마크를 초과하는 것은 정상적인 현상입니다.

TIP

클러스터의 노드들이 매우 다른 양의 디스크 공간을 사용하는 것은 정상입니다. 클러스터의 균형은 각 노드의 샤드 수, 해당 샤드가 속한 인덱스, 디스크 크기와 CPU 사용량 측면에서 각 샤드의 리소스 필요량 등 여러 가지 요소의 조합에 따라 달라집니다. Elasticsearch는 이러한 모든 요소를 서로 상쇄해야 하며, 이러한 모든 요소의 조합을 볼 때 균형 잡힌 클러스터는 그 중 하나에만 주의를 집중하면 균형 잡힌 것처럼 보이지 않을 수 있습니다.

NOTE 백분율/비율 값과 바이트 값은 cluster.routing.allocation.disk.watermark.low, cluster.routing.allocation.disk.watermark.high 및 cluster.routing.allocation.disk.watermark.flood_stage 설정에서 혼합하여 사용할 수 없습니다. 모든 값이 백분율/비율 값으로 설정되거나 모두 바이트 값으로 설정됩니다. 이 적용은 Elasticsearch가 설정이 내부적으로 일관성이 있는지 확인하여 낮은 디스크 임계값이 높은 디스크 임계값보다 작고 높은 디스크 임계값이 플러드 단계 임계값보다 작은지 확인하기 위한 것입니다. 최대 헤드룸 값에 대해서도 비슷한 비교 검사가 수행됩니다.

NOTE 백분율 값은 사용된 디스크 공간을 나타내고 바이트 값은 사용 가능한 디스크 공간을 나타냅니다. 이는 높음과 낮음의 의미가 뒤바뀌기 때문에 혼란스러울 수 있습니다. 예를 들어, 낮은 워터마크는 10GB로 설정하고 높은 워터마크는 5GB로 설정하는 것이 합리적이지만 그 반대의 경우는 그렇지 않습니다.

PUT _cluster/settings
{
  "persistent": {
    "cluster.routing.allocation.disk.watermark.low": "100gb",
    "cluster.routing.allocation.disk.watermark.high": "50gb",
    "cluster.routing.allocation.disk.watermark.flood_stage": "10gb",
    "cluster.info.update.interval": "1m"
  }
}

• 예를 들어 100GB의 작은 디스크의 경우, 5GB는 최대 헤드룸 값인 100GB보다 작기 때문에 플러드 워터마크는 95%, 즉 5GB의 여유 공간에 도달하게 됩니다.

• 100TB와 같이 더 큰 디스크의 경우, 플러드 워터마크는 100GB의 여유 공간에 도달합니다. 이는 95% 플러드 워터마크에만 5TB의 디스크 여유 공간이 필요하지만 최대 헤드룸 설정이 100GB로 제한되어 있기 때문입니다.

Shard allocation awareness

NOTE

속성 값의 수에 따라 각 위치에 할당되는 샤드 복사본 수가 결정됩니다. 각 위치의 노드 수가 불균형하고 복제본이 많으면 복제본 샤드가 할당되지 않은 채로 남아있을 수 있습니다.

Enabling shard allocation awareness

1. 사용자 정의 노드 속성으로 각 노드의 위치를 지정합니다. 예를 들어, Elasticsearch가 여러 랙에 샤드를 배포하도록 하려는 경우, rack_id라는 인식 속성을 사용할 수 있습니다.
사용자 정의 속성은 두 가지 방법으로 설정할 수 있습니다:
• elasticsearch.yml 수정

node.attr.rack_id: rack_one

• 노드를 기동할때 -E 옵션 사용

./bin/elasticsearch -Enode.attr.rack_id=rack_one

2. 모든 마스터 적격 노드의 elasticsearch.yml 구성 파일에서 cluster.routing.allocation.awareness.attributes을 설정하여 샤드를 할당할 때 하나 이상의 인식 속성을 고려하도록 Elasticsearch에 지시하세요.

cluster.routing.allocation.awareness.attributes: rack_id 

클러스터 업데이트 설정 API를 사용하여 클러스터의 인식 속성을 설정하거나 업데이트할 수도 있습니다:

PUT /_cluster/settings
{
  "persistent" : {
    "cluster.routing.allocation.awareness.attributes" : "rack_id"
  }
}

References::

Cluster-level shard allocation and routing settings | Elasticsearch Guide [8.14] | Elastic

Shard allocation is the process of allocating shards to nodes. This can happen during initial recovery, replica allocation, rebalancing, or when nodes are added or removed.

https://www.elastic.co/guide/en/elasticsearch/reference/current/modules-cluster.html