CDC를 사용하여 MongoDB에서 ClickHouse로 데이터 수집

MongoDB를 ClickHouse Cloud에 원활하게 연결하는 방법을 설명합니다.

ClickPipes를 통해 MongoDB에서 ClickHouse Cloud로 데이터를 수집하는 기능은 현재 공개 베타입니다.

ClickHouse Cloud 콘솔과 문서에서는 MongoDB의 “table”과 “collection”을 같은 의미로 혼용합니다.

ClickPipes를 사용하면 MongoDB 데이터베이스의 데이터를 ClickHouse Cloud로 수집할 수 있습니다. 소스 MongoDB 데이터베이스는 온프레미스 환경에서 호스팅할 수도 있고, MongoDB Atlas와 같은 서비스를 사용해 클라우드에서 호스팅할 수도 있습니다.

MongoDB ClickPipes는 ClickPipes UI를 사용해 수동으로 배포하고 관리할 수 있으며, OpenAPI와 Terraform을 사용해 프로그래밍 방식으로도 배포하고 관리할 수 있습니다.

​

사전 요구사항

시작하기 전에 먼저 MongoDB 데이터베이스가 복제용으로 올바르게 구성되어 있는지 확인해야 합니다. 구성 단계는 MongoDB 배포 방식에 따라 달라지므로, 아래의 해당 가이드를 따르십시오.

1. MongoDB Atlas

2. Generic MongoDB

3. Amazon DocumentDB

원본 MongoDB 데이터베이스 설정이 완료되면 ClickPipe 생성을 계속할 수 있습니다.

​

ClickPipe 만들기

ClickHouse Cloud 계정에 로그인되어 있는지 확인하십시오. 아직 계정이 없다면 여기에서 가입할 수 있습니다.

1. ClickHouse Cloud 콘솔에서 ClickHouse Cloud 서비스로 이동합니다.

2. 왼쪽 메뉴에서 Data Sources 버튼을 선택한 다음 “Set up a ClickPipe”를 클릭합니다.

3. MongoDB CDC 타일을 선택합니다.

​

원본 MongoDB 데이터베이스 연결 추가

4. 사전 준비 단계에서 구성한 원본 MongoDB 데이터베이스의 연결 정보를 입력합니다.

연결 정보를 추가하기 전에 방화벽 규칙에서 ClickPipes IP 주소를 허용했는지 확인하십시오. 다음 페이지에서 ClickPipes IP 주소 목록을 확인할 수 있습니다. 자세한 내용은 이 페이지 상단에 링크된 소스 MongoDB 설정 가이드를 참조하십시오.

​

(선택 사항) SSH 터널링 설정

원본 MongoDB 데이터베이스에 공개적으로 액세스할 수 없는 경우 SSH 터널링 정보를 지정할 수 있습니다.

1. “Use SSH Tunnelling” 토글을 활성화합니다.

2. SSH 연결 정보를 입력합니다.

3. 키 기반 인증을 사용하려면 “Revoke and generate key pair”를 클릭하여 새 키 쌍을 생성한 다음, 생성된 공개 키를 SSH 서버의 ~/.ssh/authorized_keys에 복사합니다.

4. “Verify Connection”을 클릭하여 연결을 확인합니다.

ClickPipes가 SSH 터널을 설정할 수 있도록 SSH 배스천 호스트의 방화벽 규칙에서 ClickPipes IP 주소를 허용해야 합니다.

연결 정보를 모두 입력한 후 다음을 클릭합니다.

​

고급 설정 구성

필요한 경우 고급 설정을 구성할 수 있습니다. 각 설정에 대한 간단한 설명은 다음과 같습니다.

• Sync interval: ClickPipes가 원본 데이터베이스의 변경 사항을 폴링하는 간격입니다. 이 값은 대상 ClickHouse 서비스의 비용에 영향을 줄 수 있으므로, 비용에 민감한 경우에는 값을 더 크게(3600 초과) 유지하는 것이 좋습니다.
• Pull batch size: 단일 배치에서 가져올 행 수입니다. 이는 가능한 한 반영되는 설정이며, 모든 경우에 항상 적용되지는 않을 수 있습니다.
• Snapshot number of tables in parallel: 초기 스냅샷 중 병렬로 가져올 테이블 수입니다. 테이블 수가 많은 경우, 병렬로 가져오는 테이블 수를 제어하는 데 유용합니다.

​

테이블 구성

5. 여기에서 ClickPipe의 대상 데이터베이스를 선택할 수 있습니다. 기존 데이터베이스를 선택하거나 새로 만들 수 있습니다.

6. 소스 MongoDB 데이터베이스에서 복제할 테이블을 선택할 수 있습니다. 테이블을 선택할 때 대상 ClickHouse 데이터베이스에서 테이블 이름을 변경할 수도 있습니다.

​

권한을 검토하고 ClickPipe를 시작합니다

7. 권한 드롭다운에서 “Full access” Role을 선택한 다음 “Complete Setup”을 클릭합니다.

​

다음 단계는?

MongoDB에서 ClickHouse Cloud로 데이터를 복제하도록 ClickPipe를 설정했다면, 이제 최적의 성능을 위해 데이터를 쿼리하고 모델링하는 방법에 집중할 수 있습니다.

​

주의사항

이 커넥터를 사용할 때 유의해야 할 몇 가지 사항은 다음과 같습니다:

• MongoDB 버전 5.1.0+가 필요합니다.
• CDC를 위해 MongoDB의 네이티브 Change Streams API를 사용하며, 이는 MongoDB oplog를 기반으로 실시간 변경 사항을 캡처합니다.
• MongoDB의 문서는 기본적으로 ClickHouse에 JSON 타입으로 복제됩니다. 이를 통해 스키마를 유연하게 관리할 수 있으며, ClickHouse의 다양한 JSON 연산자를 사용해 쿼리와 분석을 수행할 수 있습니다. JSON 데이터 쿼리에 대한 자세한 내용은 여기에서 확인할 수 있습니다.
• 현재 셀프서비스 PrivateLink 구성은 지원되지 않습니다. AWS를 사용 중이고 PrivateLink가 필요하면 [e-mail]으로 문의하거나 지원 티켓을 생성해 주십시오. 활성화할 수 있도록 지원해 드리겠습니다.