본문 바로가기

전체326

[k8s/aws] 쿠버네티스에서 AWS EBS를 볼륨으로 사용할 수 있기까지 본 글은 설명하고자 하는 전체 과정을 러프하게만 설명하며, 각 리소스들에 대한 상세한 설명 및 만드는 방법 등은 모두 생략합니다. # PV, PVC - 쿠버네티스에서의 볼륨 쿠버네티스에서 앱들은 pod 형태로 올라가며, 각 pod에는 1개 이상의 컨테이너가 돌아갑니다. 컨테이너 내 디스크에 존재하는 파일은 유실될 가능성이 높으며, 다른 pod 내 컨테이너와 공유할 수 없습니다. -> 쿠버네티스 클러스터 상의 볼륨 리소스를 사용해 같은 배포 내의 pod들이 같은 볼륨을 바라볼 수 있어야 합니다. 먼저 임시 볼륨 (ephemeral volume) 이 있습니다. 임시 볼륨으로도 파드 재시작 시의 데이터 보존은 가능하지만, 데이터의 영구 보존은 불가합니다. 그치만 영구 보존... 필요하죠? 필요한 경우, PV와.. 2023. 7. 26.
[Terraform/k8s] aws-auth ConfigMap Patch # aws-auth란? aws와 k8s는 권한 체계를 다르게 가져간다. -> aws에 어드민 권한이 있더라도 eks를 최초로 생성한 User(또는 Role)가 아니라면 내부 리소스를 확인할 수 없다. 하지만 aws에서 올리는 k8s인 eks 특성상, aws의 권한을 인가받을 수 있어야 한다. 예를들면, 당장 eks의 노드(ec2. 또는 fargate session)에서도 k8s 리소스들에 대한 권한이 필요하며, aws의 다른 유저들에게 내가 생성한 eks를 공유할수도 있어야 한다. -> aws authentication을 k8s 권한체계랑 매핑시켜주는게 aws-auth ConfigMap의 역할이다. aws-auth의 full configuration format은 아래에서 확인할 수 있다. https:/.. 2023. 7. 20.
[MAC Terminal] ls 말고 exa 사용하기 ls 말고 exa 사용해야 하는 이유? 이쁘다. (이유 끝) ---- exa 는 inpa님 블로그 보고 알게 되었다. ls의 최신판이며, 색상/아이콘 표시 등의 기능 뿐 아니라 git도 통합되고 속도도 빠르다고 한다. 다만 인파님 블로그는 리눅스 기준이라, mac에서 사용하는 방법에 대해서 포스팅해보려고 한다. ---- # exa 설치 brew install exa brew로 쉽게 깔리며, 기본 ls 명령 옵션들과 호환된다. 근데 (가장 중요하다고 생각하는) 아이콘을 같이 보여주는 옵션 (--icons) 을 넣으면 깨진다 nerd font 시리즈 중 하나를 받아야 한다 # 폰트 설치 brew tap homebrew/cask-fonts brew install --cask font-hack-nerd-font.. 2023. 7. 15.
[MAC Terminal] oh-my-zsh 디렉터리 표시 설정 (prompt_dir) # agnoster 테마 파일 열기 (다른 테마 사용하면 다른거..) vim ~/.oh-my-zsh/themes/agnoster.zsh-theme # prompt_dir 함수 찾기 /prompt_dir() 원하는 설정에 따라 아래와 같이 표시한다 # 현재 Directory만 보이기 prompt_dir() { prompt_segment blue $CURRENT_FG '%c' } # 마지막 3개 Directory만 보이기 (3 대신 원하는 숫자 적용) prompt_dir() { prompt_segment blue $CURRENT_FG '%3~' } # 전체 경로 보이기 (기본값) prompt_dir() { prompt_segment blue $CURRENT_FG '%~' } 터미널에 적용 source ~/... 2023. 6. 26.
[대규모 시스템 설계 기초] 5장 - 안정 해시 (Consistent Hash) 설계 # 서론 수평적 규모 확장을 달성하기 위해서는 요청 또는 데이터를 서버에 균등하게 나누는 것이 중요하다. -> 이 목표를 달성하기 위해 보편적으로 안정 해시 기술을 사용함 이 해시 기술이 풀려고 하는 문제를 자세히 살펴보자 # 일반 해시 함수의 해시 키 재배치 (rehash) 문제 N개의 캐시 서버가 있다고 가정해보자 이 서버들에 부하를 균등하게 나누기 위해, 보편적으로는 아래와 같은 해시 함수를 사용한다. serverIndex = hash(key) % N 예를 들어, 서버 대수(N)가 4대일 때, hash(key0) % 4 = 1 이면 데이터를 찾기 위해 1번 서버에 접속하게 됨 이 방법은 서버 풀의 크기가 고정되어 있고, 데이터 분포가 균등할 때 잘 동작한다. 그러나....서버가 새로 추가되거나 삭제.. 2023. 6. 17.
[2023-06-15] 당근 SRE 밋업 3회 내용 정리 한 줄 후기 : 당근은 개발자 경험(DX)에 진심이다. (부럽,,) 제일 놀랐던 점 : SRE팀이 16명이다 (전체 엔지니어는 200명 넘는 듯) (플랫폼?파트, 클라우드 파트, 클러스터 파트) 내가 나중에 만들고 싶다고 생각한 플랫폼 다 만들어져 있음 나도 나중에 꼭 만들어야지...... 아래는 밋업 당시 그 자리에서 바로 정리하며 적은 내용들이며, 정리가 덜 되어있을 수 있습니다. 1️⃣ 당근마켓 개발자 플랫폼: 지난 2년간 무엇을 만들었는가? (변정훈) https://blog.outsider.ne.kr/ SRE (전체 인프라 관리) -작업(자동화: 스크립트, IaC)-> 인프라 입장 차이 서비스 개발 - 빠른 변경, 다양한 시도 SRE - 안정적 운영, 정책 적용, 일관된 형태, 승인 양쪽 모두 불.. 2023. 6. 17.
[Terraform/k8s] gp2 Storage Class patch eks를 만들면, gp2 storage class가 자동으로 같이 생성되어 있다. https://docs.aws.amazon.com/eks/latest/userguide/storage-classes.html Storage classes - Amazon EKS Storage classes Amazon EKS clusters that were created prior to Kubernetes version 1.11 weren't created with any storage classes. You must define storage classes for your cluster to use and you should define a default storage class for your persistent vo.. 2023. 6. 5.
[Lambda/Python/Slack] 가볍게 슬랙 메세지 보내기 Slack App을 만들고, Incoming Webhook을 원하는 채널에 생성해둔다. import json import urllib3 SLACK_URL = "https://hooks.slack.com/services/.../.../..." MESSAGE = "Lambda Trigger Test" def lambda_handler(event, context): message = { 'text': MESSAGE } http = urllib3.PoolManager() response = http.request('POST', SLACK_URL, body=json.dumps(message).encode('utf-8'), headers={'Content-Type': 'application/json'}) if re.. 2023. 5. 30.
[AWS] ELB Target Group - IP & Instance Type 억까 https://docs.aws.amazon.com/ko_kr/elasticloadbalancing/latest/network/load-balancer-target-groups.html#registered-targets Network Load Balancer 대상 그룹 - Elastic Load Balancing Network Load Balancer 대상 그룹 각 대상 그룹은 하나 이상의 등록된 대상에 요청을 라우팅하는 데 사용됩니다. 리스너를 생성할 때 기본 작업에 대한 대상 그룹을 지정합니다. 트래픽은 리스너 규칙 docs.aws.amazon.com IP & Instance Type : C1, CC1, CC2, CG1, CG2, CR1, G1, G2, HI1, HS1, M1, M2, M3, T1 인스.. 2023. 5. 24.
[Docker] CentOS 기반 리눅스 Docker 관련 초기 세팅 # docker yum install -y docker systemctl start docker chkconfig docker on # docker-compose curl -L https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m) -o /usr/local/bin/docker-compose chmod +x /usr/local/bin/docker-compose 2023. 5. 21.
[Docker] MAC에서 Host Network 사용하기 테스트용 Dockerfile FROM ubuntu RUN apt update RUN apt-get install -y net-tools iproute2 dnsutils ENTRYPOINT ["/bin/bash", "-c", "sleep 100000000"] 기본 네트워크인 Bridge 로 컨테이너를 띄우는 경우 # ifconfig eth0: flags=4163 mtu 1500 inet 172.17.0.2 netmask 255.255.0.0 broadcast 172.17.255.255 ether 02:42:ac:11:00:02 txqueuelen 0 (Ethernet) RX packets 784 bytes 1123147 (1.0 MiB) RX errors 0 dropped 0 overruns 0 frame.. 2023. 5. 21.
[Sonarqube] Community Edition & PR decorate Plugin docker-compose version: "3" services: sonarqube: image: mc1arke/sonarqube-with-community-branch-plugin container_name: sonarqube ports: - "9000:9000" - "9092:9092" networks: - sonarnet environment: - SONARQUBE_HOME=/opt/sonarqube - SONARQUBE_JDBC_USERNAME=sonar - SONARQUBE_JDBC_PASSWORD=sonar - SONARQUBE_JDBC_URL=jdbc:postgresql://db:5432/sonar volumes: - sonarqube_conf:/opt/sonarqube/conf - sonarqube_data:/op.. 2023. 5. 17.
[Terraform] Plan만 가능한 권한? Read-Only 권한을 주면 plan만 가능합니다. 2023. 5. 15.
[MSK Connector] Bigquery용 Connector 구성 BigQuery용 MSK Connector를 만드는 레퍼런스가 거의 없어서 챗지피티 도움을 많이 받았다. GCP Key File을 AWS Secret Manager에 등록해둔 후 Connector에서 해당 시크릿을 읽어오는 식으로 만들면 된다. Connector configuration file connector.class=com.wepay.kafka.connect.bigquery.BigQuerySinkConnector autoCreateTables=true tasks.max=2 topics={TOPIC명} project={PROJECT명} gcp.secret={SECRET MANAGER ARN} defaultDataset={DATASET명} MSK Connector용 IAM Role에 해당 시크릿을 D.. 2023. 5. 9.
[pre-commit] local repository 사용하기 # Git Hook이란? https://git-scm.com/docs/githooks Git - githooks Documentation Hooks are programs you can place in a hooks directory to trigger actions at certain points in git’s execution. Hooks that don’t have the executable bit set are ignored. By default the hooks directory is $GIT_DIR/hooks, but that can be changed via the c git-scm.com commit이나 push같은 이벤트 발생 시 동작 .git/hooks 폴더를 확인하면 여러 hook들.. 2023. 5. 8.

티스토리툴바