Computer Science6 [LLM] 프롬프트 엔지니어링과 RAG 딥러닝 발전 양상24-09-24에 진행되었던 에티버스의 AWS 워크샵에 기반한다. 포스팅순서대형 언어 모델 (LLM)추론 파라미터- 온도- 상위p- 상위k프롬프트 엔지니어링프롬프트 엔지니어링 기법검색증강생성 RAG 대형 언어 모델 (LLM)Large Language Model자연어를 이해하고 결과값을 자연어로 생성하는 파운데이션 모델chatGPT가 대표적인 예기존의 딥러닝은 연산 결과를 사람이 해석해야했다면 LLM은 처리 결과를 자연어로 내놓음으로써 딥러닝 이용에 대한 진입장벽을 낮추었다.트랜스포머 아키텍처를 기반으로 한다(연관 포스팅 : 301번 포스팅) 추론 파라미터LLM의 추론과정에서 일반적으로 적용되는 하이퍼 파라미터온도 (Temperature)- 모델의 응답에서 생성의 다양성과 창의성을 조절-.. 2024. 9. 30. [발전양상] 파운데이션 모델과 생성형 AI 딥러닝 발전 양상24-09-24에 진행되었던 에티버스의 AWS 워크샵에 기반한다. 포스팅순서기반지식 : 학습방법론- 지도학습- 비지도학습- 강화학습기반지식 : 관련용어- 사전학습- 파인튜닝파운데이션 모델(FM, Foundation Model)생성형 AI (Generative AI)인공지능 in AWS - 배드락(Bedrock) - 세이지메이커(SageMaker) 기반지식 : 학습방법론지도학습 (Supervised Learning)- 입력값(데이터)과 결과값(라벨)을 함께 주고 학습을 시키는 것- 특징(feature)들을 직접 추출하고 분류작업을 한다.- 알려주지 않은 문제에 대해 답을 알려주지 못함비지도학습 (Unsupervised Learning)- 입력값에 대해 결과를 알려주지 않고 학습을 시키는 것.. 2024. 9. 25. [모델 아키텍처] DNN, CNN, Transformer 모델 아키텍처딥러닝의 대표적인 모델 아키텍처들을 톺아본다 DNN(Deep Neural Network)2개 이상의 히든 레이어를 가진 신경망 구조(모델아키텍처)를 통칭다양한 데이터 유형에 적용할 수 있는 일반적인 신경망이다.히든 레이어가 2개 이상으로 다층 퍼셉트론(Multi-Layer Perceptron, MLP)이라고도 불린다주요개념1. 인풋 레이어(Input Layer) - 입력 데이터의 특징(feature) 개수만큼의 노드가 존재.2. 히든 레이어(Hidden Layer) - 모델의 깊이에 따라 여러 개의 레이어로 구성 - 각 히든 레이어의 노드들은 웨이트와 바이어스를 가지고 있다.3. 아웃풋 레이어(Output Layer) - 결과물에 필요한 데이터 개수만큼의 노.. 2023. 8. 2. [발전과정] 인공지능-> 머신러닝-> 딥러닝까지 딥러닝 발전과정 인공지능의 발전과정인공지능 (AI, Artificial Intelligence)- 컴퓨터가 인간처럼 문제를 해결하는 기술의 총칭- 규칙기반과 학습기반으로 나뉜다 >> 규칙기반 : 전통적인 프로그래밍, 개발자가 직접 규칙과 알고리즘을 작성하는 것 >> 학습기반 : 머신러닝과 딥러닝머신러닝 (ML, Machine Learning)- 학습기반 AI- 알고리즘과 데이터를 기반으로 컴퓨터가 직접 모델을 만드는 것 *모델이란? 머신러닝의 결과물로 문제해결을 위한 로직의 일체 알고리즘 + 데이터 --(학습)--> 모델 ----사람의 영역---- ---컴퓨터가 생성---- 만들어진 의사결정 로직(==모델)은 파일의 형태로 저장된다 이때.. 2023. 8. 2. [인터넷] IP주소 / 포트포워딩 >WEBDATABASE언어클라이언트서버데이터과학개발도구프로젝트관리기타 HTTP JavaScriptPHPMySQL인프라리눅스 인터넷AWS 인터넷 IP주소Internet Protocol: 인터넷을 이용하는 각각의 플레이어들이 준수해야하는 규칙IP Address (IP주소)이용자들이 서로 정보를 주고받기 위해서는 각 PC에 고유한 주소를 가지고 있어야한다.like 전화번호IP주소 확인하기 1cmd창에서 " ping 도메인 " 를 입력하면 해당 도메인을 갖고있는 서버의 IP주소를 확인할 수 있다(cmd 나갈때는 ctrl+c)주소창에 도메인이 아닌 IP주소를 사용해서 접속할 수 있다.IP주소 확인하기 2접속하는 쪽에서도 IP를 가지고 있어야만한다.https://whatismyipaddress.com/ 등의.. 2023. 2. 25. [토막정보] 다양한 딥러닝 용어들 다양한 딥러닝 용어들별도의 포스팅으로 분류되지 못하는 토막 용어들을 정리한다 포스팅순서멀티모달(multimodal) 멀티모달(multimodal) AI여러 가지 다른 종류의 데이터를 결합하여 처리하는 기술모달(modal)이란?- AI에서의 - 텍스트, 이미지, 음성, 비디오 등의 데이터 형예시- 텍스트를 입력받아 그에 맞는 이미지를 생성하는 모델(DALL-E 등)- 이미지 입력을 통해 이미지에 대한 분석이나 설명이 가능한 모델(chatGPT 등) 2023. 1. 10. 이전 1 다음
