공영재의 개발일지

신경망의 값을 양자화하는 것과 연산을 양자화 하는 것의 차이? 양자화 두 기법 - 1. 실수만 모으기 (S) 2. 비트시프팅 (S shifting & downscaling)1. 100% 정수연산 양자화의 필요성온디바이스 AI의 필요성 - 네트워크(클라우드)가 끊겨도 돌아가야하는 현장 (의료, 제조 등) 에서 필수적.이러한 온디바이스 AI를 위해서 - 경량화가 필요.그러한 경량화를 위해 -> 100% 정수연산 양자화 필요. AI 가속기는 신경망 연산에 특화, 정수 연산만 지원하거나 정수 연산에서 효율적으로 동작.(Coral Edge TPU, ARM NPU 시리즈) - 1. 일반적 양자화 : r이라는 실수 값을 q라는 정수로 표현하고 싶다-> 무한한 실수를 모두 나타내는 것은 불가능하니 유한한 관심 범위(r..

CNNConvolution layer : 입력 이미지를 필터와 연산하여 feature map을 뽑아낸다. 필터의 수만큼 채널의 깊이가 늘어난다. 여러 이미지의 경우 아래와 같이 batch가 증가하며, convolution layer에 bias도 더해진다. 단순히 레이어를 쌓는 것은 선형곱이므로 하나의 곱과 다를 게 없다. 비선형 블록을 추가해주는 것(=ReLU)이 모델링 파워 향상의 핵심. CNN 모델 구조 - 수용 영역 (Receptive Field)CNN은 이미지 작은 부분인 지역 정보를 추출하는데 유리. 하지만 이미지 전체의 의미 파악도 필요함.따라서 "지역 정보 + 이미지 전체 맥락"을 이해하기 위한 설계가 필요 - CNN이 한번에 볼 수 있는 영역 크기인 수용영역.filter size가 3일 때..

원-핫 인코딩: 벡터 공간 관점에서, 한 원소만 1이고 나머지는 0인 벡터.단어를 원-핫 표현으로 바꾸는 과정을 원-핫 인코딩이라 함. 원-핫 인코딩과 같은 전통적 텍스트 방식의 한계차원의 저주 curse of dimensionality - 차원이 커질수록 데이터가 sparse의미적 정보 부족 - 비슷한 단어라도 유사한 벡터로 표현되지 않는다. 은행과 금융은 원 핫 인코딩에서 무관한 벡터임. 워드 임베딩: 단어들 사이의 의미적 관계를 포착할수있는 연속적/분산적 벡터로 표현.워드 임베딩에선 은행과 금융의 벡터가 공간상 가깝게 위치하며, 의미적 유사성을 반영할 수 있음.대표적인 워드 임베딩 기법 - Word2Vec (google, 2013)각 단어와 그 주변 단어들 간의 관계를 예측. 두 가지 알고리즘이 ..

Servlet: 클라이언트 요청을 처리하고 결과를 전송해주는 자바 프로그램html로 요청에 응답, 자바 스레드 이용하여 동작, MVC 패턴에서 controller로 사용됨, UDP보다 처리 속도 느림, HTML 변경 시 Servlet 재컴파일 해야함. Servlet 동작 방식: 클라이언트가 URL을 입력하면 HTTP Request가 Servlet Container로 전송요청을 전송받은 Servlet Container는 HttpServletRequest, HttpServletResponse 객체를 생성web.xml로 실행 환경 설정-을 기반으로 사용자가 요청한 URL이 어느 서블릿에 대한 요청인지 찾음해당 서블릿에서 service메소드를 호출한 후 클리아언트의 GET, POST여부에 따라 doGet() 또..

Union Find (서로소 집합)서로소 : 두 수의 공약수가 1 외에 없다.서로소 집합은 교집합이 없는 집합을 말한다.집합에 속한 하나의 특정 멤버를 통해 각 집합들을 구분한다. (=대표자)모든 집합을 살펴볼 필요 없이 대표자만 보고 연산할 수 있다. 서로소 집합을 표현하는 방법 - 연결 리스트, 트리 서로소 집합 연산- make-set(x) : 크기가 1인 단위집합 생성- find-set(x) : x가 속한 집합 찾기 = 집합 식별자인 대표자 찾기- Union(x,y) : x가 속한 집합과 y가 속한 집합 합치기 위의 단순한 방식은 트리의 depth가 너무 깊어질 수 있다.-> 연산 효율을 높이기 위한 방식1. Rank 활용 - Union 시 각 노드가 rank를 저장한 뒤, Rank(depth)가 ..

자료구조 - Stack java.util.Stack주요 메서드push() / pop() / peek() / isEmpty() / size()peek은 pop과 달리 맨 위를 확인만하고 꺼내지는 않음. import java.util.Stack;public class StackAPITest { public static void main(String[] args) { // TODO Auto-generated method stub Stack stack = new Stack(); System.out.println(stack.isEmpty()+"/"+stack.size()); stack.push("박창희"); stack.push("김민경"); stack.push("나경원"); stack.push("최지..

data는 private / public setter, getter로 인캡슐레이션 적용. 코딩 시 단축키alt+shift+s = 자주 사용하는 메서드 생성 관련 기능(getter, setter 등) 빠르게.ctrl+shift+o = import 자동 생성 클래스 다이어그램(UML) 보고 코드 설계할 줄 알아야 한다! 관계 | 설명 | 생명주기 | UML기호Association일반 참조 관계독립적실선Aggregation전체-부분 (has-a), 독립적부분은 독립적빈 마름모 ◇Composition강한 포함 관계 (has-a), 종속적부분도 같이 소멸검은 마름모 ◆Inheritance상속 (is-a)자식은 부모 특성을 가짐실선 + 삼각형 변수(or 메서드)에 밑줄 = static으로 써라 객체 내용을 비교할 ..

- HTML: 웹페이지에서 사용되는 마크업 언어(텍스트에 구조와 의미를 부여하기 위해 태그 형식을 사용, 프로그래밍보다는 표시용 언어)인터프리터 언어로 웹 브라우저에 의해 해석됨, 브라우저는 HTML 문서를 위에서부터 한 줄씩 해석하면서 DOM(Document Object Model)을 구성하고, 이 DOM을 기반으로 최종적으로 화면에 내용을 렌더링함.즉 DOM = 브라우저가 HTML을 해석할 수 있게 구조화해주는 html 웹 표준style (css) / body / script (동작) class는 .id = 프론트에서 쓰는 유니크한 값, #name = 데이터를 서버로 보낼 때 파라미터속성은 [ ] block 요소와 inline 요소block : 태그를 사용하면 자동적으로 줄바꿈 (div 등) / i..

1, 2 파트는 문제 잘읽고 모순을 생각해보자. 1. 데이터 이해 - 데이터 유형정형 반정형 비정형DB 엑셀 CSV 정형스키마가 없으면(SNS 등) 비정형메타데이터를 포함, HTML JSON CSS 반정형 - DIKW: Data(사실) Info(패턴 인식) Knowledge(예측) Wisdom(창의적 산물) - 데이터 단위 - 패지요 (패타엑사제타요타) - !! DB 특징 - 공통저변공용 데이터 통합 데이터 - 중복 X저장 데이터변화 데이터 - 추가/삭제에도 현재 상태 유지 = 무결성 - 기업활용 DBOLTP: T가 Transaction - 거래 단위OLAP: 대화식 분석CRM: 고객과 관련 (Customer Relation)SCM: 공급망 연결(Supply Chain)ERP: 기업경영자원 Enterpr..

1. Generics: 다양한 타입의 객체를 다루는 메서드, 컬렉션 클래스에서 컴파일 시에 타입 체크. (이전에는 형변환 시 instanceof로 타입 체크하며 런타임에 동작) 무인자(raw type, ClassName) / 형인자(paramterized type, ClassName)raw type은 가급적 사용 X - 형인자임의의 참조형 타입, 성격에 따라 선언.변수 쪽과 생성 쪽 타입은 반드시 같아야 함. 상속 X. 예시) 장바구니를 정리할 때, 뭐든지 담을 수 있는 박스(class - object)와 종류가 정해진 박스(generic)가 있다고 하자.뭐든지 담는 박스는 담을 땐 편하지만 빼는건 어렵다. 종류가 정해진 박스는 담는 건 어렵지만 빼는건 쉽다.public class UseBoxTest {..