글을 시작하기에 앞서, 퀴즈 하나 풀고 시작해보자 GCP는 구글계정에 300달러의 무료크레딧을 제공한다. 인스턴스랑 비용관리 안하고있다가, 정산비용이 몇십만원 나와서 예상치 못한 비용을 결제한 바보멍청이가 누굴까? 이번 게시글에서는 Kubernetes Cluster 에 대해서 On-premise Cluster를 구축해놨는데 포기한 이유 GCP 무료계정 결제비용 알람 설정 을 다룰 예정이다. GCP에서 뭘 사용하고 있었나요? 나는 GCP에서 주로 GKE(Google Kubernetes Engine)서비스를 사용한다. Kubernetes(이하 K8s)를 모르는 사람들을 위해서 간략하게 설명하면 다음과같다. Kubernetes: 가장 잘나가는 Container Orchestration. 여러 호스트에서 Con..

INTRO 글또 9기에 참여하게 되었다. 이번 게시글은 간단하게 글또에 대해서 소개, 올해의 회고, 글또기간동안 하고싶은 것을 끄적여보고자 한다. 글또가 뭔가요? 글또는 글쓰는 개발자 모임으로, 글을 작성하는 개발 직군분들이 모여서 서로 좋은영향을 주고 서로 같이 자랄 수 있는 커뮤니티이다. 9기 기준으로 5개월동안, 2주마다 한번씩 게시글을 업로드 해야하며, 다양한 내부커뮤니티가 존재한다. 현재 기수는 9기 이며, 10기까지만 운영이 된다고 한다. 글또 소개페이지: https://www.notion.so/ac5b18a482fb4df497d4e8257ad4d516 글또를 왜 하게 되었나요? 외부에서 참여하고있는 스터디가 있는데, 스터디에 참여하고 계신분이 글또에 대해서 알려주셨다. 그때 처음으로 글또에 ..

INTRO 이번에는 Stackable Data Platform(SDP) 를 사용하여 Airflow Application을 K8s에 배포해보겠습니다. SDP SDP(이하 Stackable)는 데이터 관련 Application 을 K8s상에서 손쉽게 배포,관리 해주게 만드는 Operator 입니다. Stackable이 지원하는 오픈소스는 다음과 같습니다. 공식사이트: https://docs.stackable.tech/home/stable/index.html Stackablectl 설치 Stackable 을 사용하려면 Stackablectl 명령어를 사용해야하므로, Stackablectl을 설치합니다. 먼저 해당 링크에 접속하여 사용하는 OS 에 알맞게 다운로드 해 줍니다. 공식링크: https://docs...

INTRO 이번에 알아볼 내용은 Kubernetes 상에서 Kafka를 구성하게 하는 Strimzi Operator에 대해서 알아보겠습니다. 그리고 Kafka 클러스터 배포, 모니터링을 위한 Ui for Apache Kafka구성, Prometheus+Grafana로 브로커 모니터링 구성까지 해보겠습니다. Strimzi 가 할수 있는 역할은? Strimzi는 K8s환경에서 Kafka 운영 관리에 도움을 주는 Operator 입니다 공식 link: https://strimzi.io/ Operator 제공 기능 : 카프카 클러스터/구성요소 배포 및 관리, 카프카 접속 설정, 카프카 업그레이드, 브로커 brokers 관리, 토픽 topic 과 유저 user 생성 및 관리 Operator 로 배포 및 관리 : ..

INTRO: 주의사항 이 글은 DOIK2 스터디에서 진행한 내용을 바탕으로 작성한 내용입니다. 공부중인 내용이기때문에, 틀린 부분이 있을수 있습니다. 아파치 카프카(Apache Kafka)가 무엇인가요? 위키피디아에서는 아래와 같이 정의하고있습니다. 아파치 카프카(Apache Kafka)는 아파치 소프트웨어 재단이 스칼라로 개발한 오픈 소스 메시지 브로커 프로젝트이다. 이 프로젝트는 실시간 데이터 피드를 관리하기 위해 통일된, 높은 처리량, 낮은 지연시간을 지닌 플랫폼을 제공하는 것이 목표이다. 요컨대 분산 트랜잭션 로그로 구성된[3], 상당히 확장 가능한 pub/sub 메시지 큐로 정의할 수 있으며, 스트리밍 데이터를 처리하기 위한 기업 인프라를 위한 고부가 가치 기능이다. 핵심키워드 핵심 키워드는 다..

INTRO 나는 평소에 공부한 내용을 Notion에다가 기록, 정리해왔다. 근데, 요즘 DOIK2 스터디를 진행하면서 공부내용을 티스토리에 옮겨서 포스팅할 횟수가 잦아졌고 조금 더 편하게 ‘Notion에 있는 내용을 Tistory로 옮길 수 있을까?’ 에 대한 고민을 하게되었다. 그래서 찾다보니 ‘동글’ 을 알게되었다. 문제정의: 왜 귀찮은가? 동글 설명에 앞서, 문제 먼저 정의해보자. 내가 정의한 문제는 ‘Notion의 내용을 Tistory로 옮기는 과정이 귀찮다’ 라는 것이다. 왜 귀찮냐면… Tistory에 글을 옮기는 프로세스가 노션의 내용을 긁어서 ⇒ ctrl+c ⇒ 티스토리 글쓰기 ⇒ ctrl+v 를 하는 과정으로 진행되는데 예를들어, 이전 포스팅 [DOIK2] 스터디: Percona Opera..

수료후기 GenAI 관련 스터디잼을 완주했습니다. 여태까지 진행했던 다른 스터디잼에 비해서, 분량이 생각보다 적었던것 같습니다. 정확히 따지자면, ‘스터디잼 수료’ 를 위해서 진행하는 내용이 꽤 적었고, 추가적인 ‘공부’ 를 위해서 해야하는 내용이 많았습니다. 페이스북 게시글에서 ‘분량이 적다’ 라고 하는 게시글이 많았는데, 다른스터디잼에 비해서 진짜로 양이 적었습니다. 스터디잼 강의내용 최근엔 인공지능업계에서 Generative 모델을 통해서 문제해결을 많이하는것을 볼수 있습니다. (개인적인 생각으로는 Generative를 문제해결의 방법이라고 생각하는것 같습니다) 이번 스터디잼의 강의내용 대부분은 Genrative 모델이 ‘왜’ 정답이 되었는지 에 대한 변천사, 모델 아키텍쳐, 인공지능 윤리에 대한..

What is NOSQL? NOSQL이름의 뜻: Not Only SQL 특징: DB긴 한데, RDBMS처럼 고정된 스키마가 존재하지않는다. DB의 역할은 충실히 해낸다. 예시: Redis, HBase, mongoDB, ES MongoDB란? 몽고DB(MongoDB←HUMONGOUS)는 크로스 플랫폼 도큐먼트 지향 데이터베이스 시스템이다. NoSQL 데이터베이스로 분류되는 몽고DB는 JSON과 같은 동적 스키마형 도큐먼트들(몽고DB는 이러한 포맷을 BSON이라 부름)을 선호함에 따라 전통적인 테이블 기반 관계형 데이터베이스 구조의 사용을 삼간다. 이로써 특정한 종류의 애플리케이션을 더 쉽고 더 빠르게 데이터 통합을 가능케 한다. 아페로 GPL과 아파치 라이선스를 결합하여 공개된 몽고DB는 자유-오픈 소스 ..

주의사항 이 글은 DIOK2스터디에서 진행한 내용을 바탕으로 작성한 내용입니다. 공부중인 내용이기때문에, 틀린 부분이 있을수 있습니다. CloudNativePG 이번에 정리한 DB는 CloudNativePG 입니다. 쿠버네티스에서 PostgreSQL 워크로드를 관리하는 프로젝트라고 이해하면 될것같습니다. 링크: https://cloudnative-pg.io/documentation/current/ CloudNativePG CloudNativePG CloudNativePG is an open source operator designed to manage PostgreSQL workloads on any supported Kubernetes cluster running in private, public, h..

알게 된 계기로컬환경에서 Gcloud CLI를 사용중인 계정이 2개 있었고, 필요할때마다 로그인 정보(gcloud auth login 명령어 사용) 를 바꿔가며 사용하고있었습니다. 그러나, 문제는 gcloud auth login 명령어로 사용자 계정을 변경한 상황에 발견했습니다. 구글클라우드에서 제공하는 서비스를 사용하려고보니 사용자 계정이 바뀌어있지 않은것을 발견했습니다.이를 해결하기위해 내용을 찾다가 gcloud auth login 명령어와 gcloud auth application-default login 명령어의 차이점을 알게 되었습니다.gcloud auth login 목적은 Google Cloud에서 사용하는 사용자의 계정 인증, gcloud cli를 사용하기 위한 작업계정을 설정하는것이다. 인..