공부
-
MT-Bench-101: A Fine-Grained Benchmark for Evaluating LargeLanguage Models in Multi-Turn Dialogues공부/논문 2025. 3. 1. 16:31
https://arxiv.org/pdf/2402.14762 AbstractLLM을 평가하는 것은 여전히 도전 과제이전의 벤치마크들은 single turn위주이거나 multi turn이어도 불완전한 평가를 제공하여, complexity나 세부적인 부분을 놓쳤음그래서 multi-turn을 제대로 평가하기 위해 만들어진 게 MT-Bench-101!13개의 task로 1388개의 세션에서 4208 turn을 포함하는 3단계 계층적 평가 체계를 구축21개의 LLM으로 실험 진행1. IntroductionLLM은 엄청난 발전을 해옴그에 따라 여러 평가 기준도 도입(ex. MMLU, BBH, AlpacaEval 등)하지만 실제 대화에서는 보통 multi-turn 대화가 주를 이룸그래서 LLM이 대화를 하면서 일관된 ..
-
transformer공부/AI 2025. 2. 10. 10:55
Architecture1. Encoder입력에 대한 representation, feature을 도출모델이 입력에 대해서 이해목표에 도달하기 위해 입력에 대한 표현 형태를 최적화함2. Decoderencoder가 구성한 representation, feature를 다른 입력과 함께 사용하여 시퀀스 생성 모델 종류Encoder-only modelsclassification, recognition과 같은 입력에 대해 분석, 이해가 필요할 때 주로 사용bi-directional attentionauto-encoding modelattention layer가 문장의 전체에 접근 가능pretraining에서 문장을 masking하는 방식 등을 사용하여 원래 문장과는 다르게 손상을 시킴, 이 후에 다시 복구하는 과..
-
camera공부/기타 2024. 10. 10. 22:21
CV에서 말하는 카메라?핀홀 카메라 모델외부의 상이 하나의 바늘구멍을 직선으로 통과하여 반대편 벽(이미지 센서)에 맺히는 모델더보기초점거리=바늘구멍~벽면까지의 거리 좌표계 카메라 캘리브레이션?세상은 3차원카메라로 찍은 건 2차원의 이미지3차원=>2차원 or 2차원=>3차원 하는 과정에서는 카메라 내부 요인을 제거해야 정확히 계산 가능내부 요인의 파라미터 값들을 구하는 과정=카메라 캘리브레이션개요카메라 이미지는 3차원 공간상의 점들을 2차원 이미지 평면에 projection함으로써 얻어짐3차원2차원 변환 과정을 설명하는 파라미터를 찾는 과정이 카메라 캘리브레이션카메라 외부 파라미터(=extrinsic parameter) ex)카메라 설치 높이, 방향 등 외부공간의 기하학적 관계와 관련카메라 내부 파라미터(..
-
상세기획서공부/기획 2024. 9. 12. 09:51
상세기획서란?프로젝트의 구조를 정리한 문서프로젝트에 참여하는 사람들이 문제 상황을 이해하고 해결책을 합의하는 데 사용작성 방법배경=>목표=>방향성=>상세정책=>마일스톤배경현상과 원인을 짚자현상을 먼저 얘기해서 문제의 심각성을 대두 후,현상이 발생하는 원인을 얘기원인은 데이터를 기반으로 작성목표캐치 프라이즈 or 제품명+정량적 목표방향성프로젝트를 위해 해야하는 것들 작성ex)업무, 원칙 등이를 바탕으로 유저 스토리 작성더보기유저 스토리란?제품을 통해 사용자가 할 수 있는 행동 쓰는 방법 : who+what+why가 정석 인수기준 : 유저 스토리를 만들 때 나열한 사항들이 개발되어야 해당 기능이 개발 완료된 것으로 판단하겠다는 것ex)사용자는 챗봇을 이용하다가 메모장을 사용할 수 있음메모장에는 rich te..
-
Chapter02 영상 처리공부/Computer Vision 기본 개념부터 최신 모바일 응용 예까지 2024. 9. 11. 16:09
1. 디지털 영상이란?1. 디지털 영상의 태동2. 획득과 표현영상을 획득하는 장비인 카메라는 사람의 눈과 비슷한 구조수정체는 카메라의 렌즈 역할망막(밝기에 반응하는 간상체, 색에 반응하는 추상체)은 CCD센서(필름) 카메라의 작동원리빛이 상자의 구멍을 통해 내부로 들어가면 CCD센서(필름)에 맺힘영상을 가로 방향으로 N, 세로 방향으로 M개의 점으로 샘플링화소(pixel)라고 부르는 각 점의 밝기를 L단계로 양자화2. 히스토그램1. 히스토그램 계산영상 f의 히스토그램은 명암값이 나타난 빈도수[0, L-1] 사이의 명암값 각각이 영상에 몇 번 나타나는 지2. 히스토그램 용도영상의 특성 파악ex)히스토그램이 왼쪽으로 치우쳐져 있으면 어두운 영상두 개의 봉우리가 선명하게 나타난 영상이면 이진 영상으로 변환하기..
-
Chapter01 소개공부/Computer Vision 기본 개념부터 최신 모바일 응용 예까지 2024. 9. 11. 13:39
1. 왜 컴퓨터 비전인가?2. 컴퓨터 비전 문제는 어떻게 해결하나?1. 과학적 접근과 공학적 접근컴퓨터 비전의 목표1. 사람의 시각에 맞먹는 인공 시각을 만든다필연적으로 인간의 시각이 어떻게 작동하는 지 원리를 밝혀낸 다음 컴퓨터로 모방해야함=>과학적 접근과학적 접근의 2가지 어려움(1. 인간의 시각 과정을 완전히 밝혀낼 수 없음 2. 현재 기술과 컴퓨터로 시뮬레이션 불가능)2. 한정된 범위에서 특정한 임무를 달성하는 인공 시각을 만든다=>공학적 접근이 책에서 제시하는 대부분의 알고리즘 컴퓨터 비전이 어려운 본질적 이유?1. 역문제(inverse problem)입력 영상은 3차원, 컴퓨터 비전은 2차원으로부터 3차원을 알아내는 과정사람은 영상을 보면 필요한 3차원 정보를 쉽게 추론해내지만 현재 그런 추론..
-
Chapter7 C언어로 컴파일하기공부/High Performance Python 2024. 8. 21. 12:01
코드를 빠르게 하는 가장 쉬운 방법?처리할 작업의 양을 줄이는 것최적의 알고리즘을 사용해라~그 다음으로는 수행할 명령의 수를 줄이는 방법명령의 수를 줄이려면 코드를 기계어로 컴파일 사이썬 - C언어로 컴파일하는데 사용하는 가장 일반적 도구, numpy와 일반 파이썬 코드 모두 커버Numba - numpy코드에 특화된 컴파일러PyPy - 일반 파이썬 실행환경을 대체하는 비 numpy코드를 위한 JIT 컴파일러7.1 가능한 속도 개선의 종류컴파일로 빨라질 수 있는 부분은 대부분 수학적인 부분why? 같은 연산을 무수히 반복하기 때문이런 루프에서는 임시 객체를 많이 사용할 확률이 높음근데 numpy연산은 임시 객체를 많이 생성하지 않아서 컴파일이 별 도움이 안 된다고 함 프로그램 동작 이해를 목표로 프로파일=..