본문 바로가기
GAN: Generative Adversarial Networks - 동빈나 유튜브 리뷰 리뷰를 리뷰한다. www.youtube.com/watch?v=AVvlDmhHgC4&list=PLRx0vPvlEmdADpce8aoBhNnDaaHQN1Typ&index=9 1. 확률분포란? - 확률 변수가 특정한 값을 가질 확률을 나타내는 함수 ex) 주사위를 던졌을 때 나올 수 있는 수를 확률변수 X라고 합시다. 확률변수 X는 1,2,3,4,5,6의 값을 가질 수 있습니다 P(X=1)은 1/6 P(X=1)=P(X=2)=P(X=3)=P(X=4)=P(X=5)=P(X=6) 2. 이산 확률 분포 -확률변수 X의 개수를 정확히 셀 수 있을 때, 이산확률분포라고 말합니다. -주사위 눈금 X의 확률 분포는 다음과 같습니다. 3. 연속 확률 분포 -확률변수 X의 개수를 정확히 셀 수 없을 때 연속 확률 분포라 말합니다... 2020. 12. 29.
(ch.4) 자연어처리란? (Natural Language Processing) 1. 자연어란? - 일상 생활에서 쓰이는 언어를 자연어라고 한다. 일상적인 언어 표준어가 아닌 방언들도 자연어에 포함이 됨 2. 자연여처리 NLP (Natural Language Processing) : NLP는 자연어의 의미를 분석하여 컴퓨터가 처리하도록 하는 일을 한다 하루에 발생하는 빅데이터의 양이 수백테라바이트라고 이야기 한다. 그 빅데이터를 실제로 잘 다루기 위해서는 딥러닝 알고리즘만 좋은 알고리즘을 쓰고, 굉장히 발전된 아주 큰 딥러닝 모델을 사용한다고 해서 해결이 되지않고 빅데이터를 다루기 위해서는 컴퓨터 과학(Computer Science)적인 진보된 구현, 하드웨어를 어떻게 더 효율적으로 쓸 것이냐, 어떻게 네트워크 아키텍쳐를 잘 쓸것이냐, 어떻게 Parallel 아키텍쳐 (병렬 컴퓨터).. 2020. 12. 29.
(ch.1) Image Classification - ZFNet, NIN ZFNet :Alexnet 변형해 특수한 기법사용 1. Visualization with a DeConvnet Conv를 반대로 수행하면서 featuremap이 잘 수행되는지 확인 일반적으로 Convoultion 같은 경우에는 Convoultion filter를 거쳐서, 거기서 생성되는 FeatureMap들이 비선형성을 가지는 Activation Function을 만나면서 pooling이되면서 학습을 하는 CNN구조를 갖고있음 그런데 이를 역으로 수행해 이구조들을 살펴보고 여기서 일어나는 Feature들을 살핌 *Unpooling : switches (pooling에 대해서 가장 강한자극이 있었던 위치들을 저장해놓고 그것을 unpooling할때 switches를 이용해 복구, 가장 강한 자극이 어떤 pi.. 2020. 12. 28.
서버 : AWS 와 EC2 EC2 란? EC2(Elastic Compute Cloud)는 독립된 컴퓨터를 임대해주는 서비스입니다 Instance = 컴퓨터 1대가 instance 하나 2020. 12. 28.
7주차 review rl= onplateau 우리모델의 점수가 정체될 때, 러닝레이트의 변화 개선을 통해서 / 최적의 지점에 가까이 오게 되면 러닝레이트를 줄여야됨. 러닝메이트를 자동으로 줄여준다. 답을 정해줄 때, (확률 x 클래스 값으로 나올때 o) -data augmentation idg=ImageDataGenerator(horizon_flip=True) #vertical_filp=True, rotation_range=30, width_shift_range=0.1, height_shift_range=0.1) - *과제* Plant Seedlings Classification invasive data science bowl 2020. 12. 28.
(ch.2) Object Detection 이란? : R-CNN, Fast R-CNN, Faster R-CNN Object Detection Classification : 물체가 무엇인지 식별 +Localization : 전체 이미지에서 어떤 위치에 있는지 , 그 위치를 바운딩 박스라고 하는 물체의 크기를 표현할 수 있는 박스. 그 물체의 중심점을 바운딩박스의 중심점 이 두가지를 다한것을 Object Detection이라고 한다. Object Detection = 여러가지 물체에 대한 Classification + 물체의 위치정보를 파악하는 Localization 1-Stage 와 2-Stage Detectors 처음에 Proposal Reason이라고 하는 보기가 되는 바운딩박스들을 만들어내고 그 안에서 간단한 문제를 푼 다음에 더 세부적으로 그걸 fine하게 regression을 한다던가 그 위치를 조절한다던.. 2020. 12. 24.
(ch.1) Deep Learning Classification 과 CNN의 배경 Neuron 특정 자극이 어떤 한계치를 넘을 때만 활성화를 시킬 수 있도록 한다. MLP (Multi-Layer Perceptrons) Backpropagation Algorithm - Output 구조에서 생기는 오차값을 각각의 weight에 전파하기 위해서 어떤 chain-rule 을 통해서 gradient를 전파해준다. 이 획기적 알고리즘을 통해 MLP가 학습을 할 수 있고, 또한 고차원적인 Feature들을 표현할 수 있다. Yann Lecun 의 Le-net이 CNN의 기본적인 구조다. CNN Convoultion 계층 -feature을 잘 뽑아내는것에 도움을 줌 Subsampling 계층 -feature가 볼 수 있는 dimension을 보다 넓히기 위해서 그것들의 차원을 축소해주는 역할 Fu.. 2020. 12. 24.
(ch.1) 머신러닝 Classfication 이 데이터들의 특성에 따라 어떻게 모델을 쓸건지 달라질 수 있음 2020. 12. 24.
(ch.1) 딥러닝의 개요 : classification 이란 무엇인가 딥러닝: 뉴럴 넷 이용, 다수의 레이어 이용, 보다 고차원 적임. end-to-end. training 시간이 오래걸림 머신러닝: 트레이닝 데이터셋 작음, 사람이 직접 feature을 찾아서 넣어야함. 1,2,3 은 label 값(정답 값)이 있느냐 없느냐 1은 지도학습 : 라벨이 있음 (classifier로 사용) 3은 비지도학습 : 라벨이 없음 (clustering, 군집 알고리즘을 통해 클래스를 나눠서 사용) 4. Reinforcement Learning : 직접적으로 트레이닝을 하고자 하는 환경을 경험을 하면서 trial&error 시행착오로 환경에 대해 학습을 하며 이에 대해서 Action에 대한 policy를 학습하는 과정을 뜻함. 5. 딥러닝 2-layer 이상 심층 네트워크 Classfic.. 2020. 12. 24.
적대적 공격 -2) 정의와 유형 ("인공지능을 망치겠다..") 출처 :  https://github.com/tensorflow/cleverhans cleverhans-lab/cleverhansAn adversarial example library for constructing attacks, building defenses, and benchmarking both - cleverhans-lab/cleverhansgithub.com  자율주행 자동차가 우리 생활의 전반을 차지하고 있다고 가정해보자 (멀지 않은 미래다) 자율주행자동차가 만약 여러가지 신호들을 오인식 하게 된다면 분명 인명피해로 이어질거고 이는 심각한 사회문제로 대두될 것이다.당신의 차는 이런 상황이 오게 될 수도 있다.  당신이 자고있던 혹은 자고 있지 않던 당신의 붕붕이는 오인식으로 인해 계속 달릴 .. 2020. 12. 23.
적대적 공격 -1) ArtBreeder 이슈 정리, 인공지능의 차별과 편견 이번에 트위터에 인공지능을 활용한 캐릭터 생성기가 아시아인에 대한 혐오를 닮고 있다고 글이 올라왔다. ArtBreeder 라는 사이트임. (gan을 활용했나?) 아마 데이터셋에서 아시아인에 대한 데이터가 많이 없었을 것이고, 그 마저도 제대로 된 것이 아닌 것 같다. 물론 개발자들은 그런 데이터셋의 특이점을 신경 안쓰고, 악의를 갖지 않고 만들었겠지만 결과가 저 지경으로 나오는 것은 제대로 검수 및 확인을 안해본 것이기 때문에 분명 책임이 있다고 생각한다. horizon.kias.re.kr/10971/ 인공지능은 인간을 차별하는가? 2017년, MIT 대학교에서 출판하는 테크놀로지 리뷰Technology Review는 구글의 인공지능AI 연구 책임자 존 지아난드리아John Gianandrea와 인터뷰를 .. 2020. 12. 23.
CNN 성능 향상시키기 (6시차-review) 1.target size -즉 이미지 사이즈인데, 이미지 사이즈가 작아질수록 손실이 생긴다. 당연하겠지 2.batch_size -이미지 target_size가 커지면 메모리 소모량이 크기때문에 batch_size를 줄여준다. 3.모델바꾸기 -EfficientNetB0이라고 하면 B1~ 점차 숫자를 늘려준다 4.augmentation -좌우위치도 영향이 감. 만약 개가 오른쪽에만 있다면? 학습할 때 우리 모델은 '개'라는 것은 오른쪽에만 있구나! 하고 인식하겠지, -평가를 할때에도 어그멘테이션이 필요한가? ㄴㄴ test나 valid 에서는 필요없지, 시간만 낭비니까 -크롭도있음. 크롭해서 주변인들을 없애는거야 ^^ 5.learning rate from tensorflow.keras.callbacks imp.. 2020. 12. 22.

티스토리툴바