TODAY IS SUNNING

LLM/sLLM/sLM- LLM/sLLM/sLM의 정의 및 특징- LLM(Large Language Model): 대규모언어모델LLM은 파라미터 수가 수천억~수조 개로 매우 많고 모델이 커서 기업에서 사용하기 어려움- sLLM(small Large Language Model): 경량거대언어모델LLM을 기업에서 사용할 수 있도록 sLLM 구현기존 LLM보다 빠르게 학습할 수 있도록 파라미터 수를 줄이고 학습 데이터 양을 줄여서 비용과 시간을 절감할 수 있도록 한 LLM보다 작은 규모의 대형 언어 모델- sLM(small Language Model): 소형언어모델파라미터 수가 적고 학습 데이터셋이 작거나 모델 구조가 단순단순 NLP 작업이나 제한된 도메인에서 주로 사용스마트 스피커, 셋탑 박스, 홈서비스 로..

네트워크 관련 용어 공부https://haram22.tistory.com/23 network 용어 정리server, client server 클라이언트에게 네트워크를 통해 정보나 서비스를 제공하는 컴퓨터 시스템으로 컴퓨터 프로그램 또는 장치를 의미한다. client 네트워크를 통해 서버라는 다른 컴퓨터 시스템 상haram22.tistory.com플랫폼 정리OpenAI Playground : AI 모델을 직접 테스트하고 실험하는 데 중점 주로 OpenAI의 언어 모델(GPT-3, GPT-4 등)을 직접 사용하여 텍스트 생성, 요약, 번역 등 다양한 자연어 처리 작업을 실험하고 테스트하는 플랫폼브라우저 기반의 사용자 인터페이스를 제공하여 손쉽게 접근하고 사용주로 연구자, 개발자들이 다양한 모델 설정 조정 (..

LangChain언어 모델을 활용해 다양한 어플리케이션을 개발할 수 있는 프레임워크, SDK (Software development kit)한 개 이상의 LLM 사이에 논리적으로 연결된 Chains를 생성할 수 있는 기능 제공LangChain을 사용하면 복잡한 데이터 처리, 다양한 모델 연동, 시스템 통합 등 더 체계적이고 유연한 솔루션을 제공 가능장기적으로 확장성과 유지보수 측면에서 유리 LangChain의 주요 기능모델 연동LangChain은 다양한 LLM(대형 언어 모델)과 쉽게 연동할 수 있도록 설계됨OpenAI, Hugging Face, Cohere 등 여러 모델 공급자의 API를 지원하여, 원하는 모델을 손쉽게 사용할 수 있음체계적인 파이프라인 구성LangChain은 복잡한 NLP 파이프라인을..

sLM 구축은 모델 선정/튜닝/데이터수집 정제 등 복잡한 절차 필요 --> 기반 기술을 토대로 쉽게 구축 가능!1) HuggingfaceAI 모델(머신러닝/딥러닝)과 데이터 셋, 평가를 위한 다양한 라이브러리와 허브를 제공 오픈소스 플랫폼인공지능 모델을 위한 깃허브- Transformer LibraryTransformer는 사전학습된 최첨단 모델들을 쉽게 다운로드하고 훈련할 수 있는 API, ehrn wprhd자연어 처리, 컴퓨터 비전, 오디오, 멀티모달(표, 문서, 비디오 등) 지원- Huggigface HubML 워크플로우에서 쉽게 협업 가능한 모델, 데이터셋, 데모를 지원버전 관리, 커밋 기록, 분기 등 12개 이상의 라이브러리를 통합적 제공- API Token 발급LLM 학습을 위해서는 PDF 문..

파이프라인(Pipeline)이란?데이터 처리 및 모델 학습의 여러 단계를 체계적으로 연결하여 일관된 흐름으로 수행할 수 있도록 도와주는 도구데이터 전처리, 모델 훈련, 예측 및 평가를 효율적으로 관리 가능sklearn 라이브러리에서 전처리(pre-processing)용 모듈과 모델의 학습 기능을 파이프라인으로 합칠 수 있음파이프라인으로 결합된 모형은 원래의 모형이 가지는 fit, predict 함수를 가짐파이프라인에 정의된 순서에 따라 전처리 모듈이 먼저 호출되어 전처리 과정을 거친 후 모델이 학습파이프라인(Pipeline)을 사용하는 이유1) 일관성 유지 모든 데이터 처리와 모델링 작업이 순차적으로 일관되게 적용되어 오류를 줄일 수 있음2) 재사용성데이터 전처리와 모델링 과정을 모듈화하여 코드의 재사용..

Foundation 모델정의: Foundation 모델은 다양한 다운스트림 작업에 대해 기초로 사용할 수 있는 대규모 모델을 의미합니다. 이 모델은 일반적으로 대량의 데이터에서 사전 학습되어 있으며, 다양한 범위의 문제를 해결하는 데 사용될 수 있습니다. 예를 들어, GPT-3, BERT, 그리고 Vision Transformers(ViTs)는 모두 foundation 모델입니다.특징:다목적성: 여러 작업에 대해 재사용할 수 있는 기본적인 기능을 제공합니다.사전 학습: 대규모 데이터셋에서 사전 학습되어 다양한 다운스트림 작업에 적합합니다.미세 조정: 특정 작업에 맞게 추가적인 미세 조정(fine-tuning)을 통해 성능을 개선할 수 있습니다.사용 예:언어 모델: GPT-3, BERT비전 모델: Visi..

정말 오랜만에 준비하는 자격증!사내의 자격증 취득 지원 제도에 관심이 생겨서 COS PRO 1급 자격증을 급 준비하게 되었다.오늘 (6/6) 접수했는데 이틀 뒤에 바로 시험!ㅎㅎ 시간이 더 주어진대도 공부할 거 같지도 않고 해서 그냥 접수했다.COS Pro는 YBM에서 주관하는 코딩전문가자격시험으로 시험문제 10문제를 90분 동안 푸는 문제이다.COS Pro란?C, C++, C#, JAVA, Python에 대한 자격증으로 높은 수준의 프로그래밍 활용능력이 있음을 증명할 수 있습니다.시작부터 종료까지 100% 컴퓨터상에서 진행되는 CBT(Computer Based Test)로 평가 방식이 정확함은 물론 시험 종료 즉시 시험 결과를 알 수 있습니다. COS Pro 정기시험 일정 정기 시험은 한달에 한 번 정..

오늘은 연속형 데이터를 파악하는 방법에 대해 알아보자. 범주형 데이터를 분석하는 방법은 아래의 링크에서 확인할 수 있다. https://sunning-10.tistory.com/entry/python-%ED%8C%8C%EC%9D%B4%EC%8D%AC-pandas-%ED%8C%90%EB%8B%A4%EC%8A%A4-%EB%8D%B0%EC%9D%B4%ED%84%B0-%ED%83%90%EC%83%89 [python 파이썬, pandas 판다스] 데이터 탐색 (범주형 자료) 오늘은 데이터 탐색 방법에 대해 알아보자. 데이터를 탐색하기 이전에 데이터를 열어서 그 기본정보를 먼저 파악하여 어떤 식으로 분석할지 판단한다. ● 데이터 기본정보 확인 : df명.info() 이를 sunning-10.tistory.com ●..

argument란? parameter (매개변수) : 함수를 구현하는 쪽과 함수를 사용하는 쪽을 매개하는 변수 argument (전달값, 전달인자, 인자, 인수 등) : 함수를 사용하는 사람이 매개변수에 집어 넣는 값 argparse python script 개발 시 하나의 Script의 동작을 여러 상황에 따라 다르게 동작하도록 할 때 사용 python에서 arugment를 사용하기 위해서 내장함수 argparse 모듈 사용 다른 동작을 만들어 내기 위해 Script 실행 시 Argument를 붙여서 원하는 옵션 지정 주요 모듈 argparse 라이브러리 설치 및 import하기 ArgumentParser() : argument를 받기 위한 객체 만들기 add_argument() : 만든 객체에 arg..

[ubuntu] 우분투 명령어 정리   ls: 현재 디렉토리 목록 출력cd: 해당 디렉토리로 이동cd..: 부모 디렉토리로 이동apt install: 우분투 내에 필요한 패키지 설치   [docker] 도커 개념 정리   도커(docker): 컨테이너 기반의 오픈소스 가상화 플랫폼컨테이너(container)다양한 프로그램, 실행환경을 컨테이너로 추상화, 동일 인터페이스를 제공하여 프로그램 배포 및 관리를 단순화함격리된 공간에서 프로세스가 동작하는 기술(가상화 기술 중 하나)이미지를 실행한 상태, 이때 변화하거나 추가되는 값은 컨테이너에 저장됨이미지(image)컨테이너 실행에 필요한 파일과 설정값 등을 포함하고 있는 것 (상태값X, 변하지 않음(Immutable))같은 이미지에서 여러 개의 컨테이너 생성 ..