ELK스택 개요
·
ELK
ELK빅데이터 파이프라인의 각 역할 1. Elastic search : 데이터 저장, 검색엔진역할 2. Logstash : 데이터 수집 3. Kibana : 시각화 1.3.1 엘라스틱서치 분산검색엔진 ES ES는 모든 레코드를 json형태로 입력하고 관리하고잇음 일종의 NoSQL 형태의 DB라고 생각하면 좀 비슷할듯함 스코어링 : 검색어에 대한 유사도 스코어를 기반으로 한 정렬을 사용한다 1.3.2 키바나 K ES는 모든 입력을 Restapi로 받아들임 → curl명령등 기능을 사용가능함 → 그래도 직접만들기엔 귀찮으니, ES전용으로 나온 시각화도구를가 키바나임 1.3.3 로그스태시 LS 데이터를 적재하는 일종의 도구 ES의 인덱싱성능을 최적화하기위한 분산처리,병렬처리 가능 영속적인큐를 사용 → 유동적인..
[에러해결] 윈도우환경에서 Your shell has not been properly configured to use 'conda activate'. conda init 에러해결
·
Dev
conda create -n 가상환경 python=3.8 -y 로 가상환경을 만들고 conda active 가상환경 으로 가상환경에 접속하려니 다음과같은 에러가 뜬다 하단에 need to close and restart 하라해서 했더니 동일한 에러가 계속 나더라 에러해결법은 다음과 같다 1. Get-ExecutionPolicy -Scope CurrentUser -> Undefined or RemoteSigned 2. Set-ExecutionPolicy -ExecutionPolicy RemoteSigned -Scope CurrentUser -> Restricted or RemoteSigned 3. Get-ExecutionPolicy -List 4. Set-ExecutionPolicy -ExecutionPo..
Recommending What Video to Watch Next : A Multitask Ranking System
·
DeepLearning
주된 차별점 2Stage Model Multiple Ranking Objective Multitask Implicit Feedback ( feedback loop ) Bias ( Selection Bias == Position Bias ) 어떻게 추천할 것인가? (예시상황) 사람들이 Video platform에서 Video를 계속해서 시청하고있는 상황. 나는 User가 platform에서 더 많은 동영상을 보고, 더 많은 시간을 사용하게하고싶음 → User가 좋아할만한 동영상을 추천해주자 ⇒ '다음동영상'으로 어떤 동영상을 추천해줄 것인가? 에 대한 문제로 귀결됨 그렇다면 무슨 기준으로 추천을 해야할까? 크게 생각했을때는 2가지 기준으로 나눌것이다. 일반적으로 사람들이 좋아하는 부류의 동영상을 추천해주기..
BPR, Bayesian Personalized Ranking from Implicit feedback, Rendle
·
DeepLearning
사전에 알아야하는것 1. MF 2. KNN 3. 조건부확률 IDEA 단순히 Item의 순위를 매겨서 일괄적으로 추천해주는것보다. 개인화된 Item을 개인별로 추천해주는것이 효과가 더 좋지않을까? 라는 생각에서 출발 Data ( Implicit or Explicit ) e.g. 온라인쇼핑 Implicit feedback data : 제품을 검색하고, 상세설명을 확인하는 등등의 '간접적인' 행위 Explicit feedback data : 제품을 구매한 이후에 제품의 평가를 매기는 등등의 '직접적인'행위 ⇒ 온라인 쇼핑에서는 Implicit종류의 data가 explicit종류의 data보다 월등히 많기때문에 Implicit data를 사용하는 추천알고리즘을 사용해야함 Why not MF, KNN Implic..
[에러해결] Malformed entry 1 in list file /etc/opt/sources.list.d/
·
Ubuntu
Ubuntu 20.04 LTS 버전을 설치 한 이후에 Chrome과 Naver-whale을 설치하려고 패키지에 등록한 이후 sudo apt-get update를 진행하였는데 다음과 같은 에러가 떳다 E : Malformed entry 1 in list file /etc/opt/sources.list.d/google-chrome.list E : Malformed entry 1 in list file /etc/opt/sources.list.d/naver-whale.list 해당 에러가 나는 이유는 설치 과정에서 Package가 /etc/opt/sources.list.d/{filename.list} 를 만들기 때문이다 에러해결 방법은 해당 파일을 제거해주는것으로 진행한다 해당 형식으로 terminal에 작성한..
Github blog에 포스팅 할때 지켜야하는 형식
·
일상후기
Github blog에 포스팅하기 위해서 지켜야하는 category, tags, md 형식을 알아보자 대상이 되는 블로그 테마 쫑긋쫑긋 블로그 : https://jjongguet.github.io/ Aiden님 블로그 : https://isme2n.github.io/ 변성윤님 블로그 : https://zzsza.github.io/ 이 블로그에 포스팅하기위해서는 category, tags, .md 를 정해진 조건 따라서 맞춰줘야한다 영역설명 Category 왼쪽 패널에서 빨간색으로 칠해진 부분이 Category 영역이다. 대분류라고 생각하자. Tags 왼쪽 패널에서 파란색으로 칠해진 부분이 Tag 영역이다. 중분류 라고 생각하자. .md 초록색으로 칠해진 부분이 .md영역이다. 실질적으로 게시글이 포스팅 ..
쉽고빠른 LaTeX
·
일상후기
부스트캠프에서 피어세션 발표때 사용한 LaTeX설명 PPT가 첨부되어있습니다. 이번 게시글에서는 1. LaTeX가 무엇인지 2. 그리고 Notion에서 수식은 어떻게 사용하는지 에 대해서 작성했습니다. LaTeX가 뭔가요??? TeX의 확장성을 이용하여 TeX를 좀더 쉽게 쓸 수 있도록 하여준 매크로 집합으로도 볼수 있다. -나무위키- StyleGan논문을 읽다보면 이런수식이 나옵니다 수식을 이해하는것은 둘째치고, 수식을 어떻게 작성한지가 궁금합니다 사진으로 넣을까? 원래 넣어야 하는것 실제로 내가 한것 더이상 그림판에서 수식을 쓸 필요가 없습니다..! /eq {} ^ _ 용어설명 {} : 묶어주는 단위 ^ : 위첨자 _ : 아래첨자 밑,아래첨자 단위 : 바로뒤에 1개만 예제 : hat sqrt sum ..
[네이버 부캠] 네이버 부스트캠프 AI Tech 2기 지원기. 어케붙었지?
·
일상후기
하게 된 이유는 그렇게 막 엄청 대단하진않았다. 학부는 4-1이 마무리되고, 4-2로 들어갈때 즈음 이었는데 마침 내가 코딩실력에 대해서 부족함을 느끼고 있었고, AI에 관심이 있었고, 마침 Boostcamp AI tech 2기를 모집하고 있었다. 4학년이기에 내일배움카드를 발급받을수 있었고, K-Digital전형으로 지원할수 있었다. 꼭 ai가 아니더라도, 여러가지 유명한 부트캠프를 비교해봤다. 정확한건 아니니까 참고만하자. aiffel (아이펠) : AI대상. 면접있음. 매달 30만원의 훈련장려금 지원. 쏘카,엔비디아 등과 연계진행 saffy (싸피) : SW대상. 면접이랑 코테보는걸로 알고있음. 매달 100만원의 훈련장려금 지원. 삼성연계진행 Seoul42 : SW대상. 코딩테스트와 비슷한 코딩테스..
Gitblog, Notion과 oopy를 버리고 Tistory를 사용하는 이유
·
일상후기
안녕하세요. 블로그 주인 jjongguet입니다. 이번에는 블로그 도메인을 tistory로 정한 이유에 대해서 알아보겠습니다. 1. Gitblog 많은 개발자분들이 블로그 도메인을 선택하실때, 가장 흔하게 선택하는 도메인중 하나라고 생각합니다. "개발자라면 역시 Gitblog지...!" 라고 생각해서 시작하시는 분들이 많습니다. 가장큰 단점은 불편함입니다. gitblog설정하는것부터 시작해서, 카테고리 구분하는것, 마크다운형식을 사용하는것, 이미지를 넣는것, 플러그인을 넣는것 까지 신경쓸게 너무 많기때문에 진입장벽이 '은근히' 높은 편입니다. 초보자분들에게는 비추드리는 도메인입니다. 저는 개인적으로 이미지를 따로 넣어주어야하는점, markdown형식으로 글을 작성해야하는점이 불편했기에 사용중단했습니다. ..
jjongguet