원문 : Vaswani, Ashish, et al. “Attention is all you need.” Advances in neural information processing systems. 2017. 초록 [기존] 성능이 좋은 시퀀스 변환 모델은 encoder와 decoder를 포함한 RNN, CNN 모델을 활용 가장 훌륭한 성능은 attention mechanism을 통해 encoder와 decoder를 연결했음 [논문이 제안하는 바] Transformer - RNN과 CNN을 제거한 Attention 메커니즘만을 이용한 network architecture를 제안 2가지 기계 번역 태스크에서 RNN, CNN 보다 성능이 우수하고 학습 속도가 빠른 실험을 진행 Introduction RNN, LS..

Task Performance Experience 1) Task = data - classification: n차원의 벡터를 특정한 클래스로 나눈다. - 결측치 처리 - regression - transciption: unstructured data -> structured data (예: OCR, STT) - machine translation - structured output - 이상탐지 anomaly detection - imputation of missing values - denoising 저해상도 이미지 > 고해상도 이미지 - density estimation or probability mass function estimation 모집단의 데이터를 추정하고 싶다. 2) Performance ..

보호되어 있는 글입니다.

따봉 챗지피티야 고마워 Mission 브라운코퍼스에서, 연달아 나타나는 2개의 단어에 대해서, 각 카테고리 별로 몇번 나타나는지를 출력해 주는 함수를 정의하고자 한다. My Code from nltk.corpus import brown def freq2word(word1,word2): genres=brown.categories() for genre in genres: #brown corpus의 단어들 중 'genre' 카테고리에 있는 단어쌍 저장하기 bigrams=list(nltk.bigrams(brown.words(categories=genre)) #빈도수 받을 변수 생성 fdist=nltk.FreqDist(bigram for bigram in bigrams) #fdist의 빈도수 받아내기 freq=f..

주피터 노트북 환경에서 리스트의 각 요소를 제곱한 리스트를 반환하는 함수를 작성하다 다음과 같은 오류를 발견했다. 오류 IndexError: list index out of range > 범인은 new_list=list[i]**2 여기 있다던데.. #내 함수 코드 def square_numbers(list): new_list=[] for i in list: new_list=list[i]**2 return new_list #이 코드를 실행했을 때 오류가 남 square_numbers([1,2,3,4,5]) 도와조 챗지피티 The error you are seeing, IndexError: list index out of range, occurs when you try to access an element ..

ChatGPT의 도움으로 문자열 거꾸로 출력하는 함수를 정의해보았다. 이제 시작이지만 알고리즘이란 .. 재밌고도 다가가기 힘든 짝사랑 대상같다.ㅎㅎ 1) 문자열을 분리하는 split() 함수 사용 2) 문자열을 구분자와 함께 합쳐주는 join() 함수 사용 - '구분자'.join(리스트) 3) 다른 걸 합쳐주는 게 아니라, split된 words를 [::-1] 뒤집은 리스트로 문자열을 합쳐준다. def revString(input_str): #먼저 split한다. words = input_str.split() #splitted word를 뒤집은 것을 다시 합친다. 구분자 없이 ''로 처리 reversed_words = ' '.join(words[::-1]) #해당 값 반환 return reversed_w..