LLM

OpenAI Playground / MS Azure

sunning 2024. 8. 24. 16:20
728x90
반응형

네트워크 관련 용어 공부

https://haram22.tistory.com/23

 

network 용어 정리

server, client server 클라이언트에게 네트워크를 통해 정보나 서비스를 제공하는 컴퓨터 시스템으로 컴퓨터 프로그램 또는 장치를 의미한다. client 네트워크를 통해 서버라는 다른 컴퓨터 시스템 상

haram22.tistory.com


플랫폼 정리

OpenAI Playground : AI 모델을 직접 테스트하고 실험하는 데 중점

  • 주로 OpenAI의 언어 모델(GPT-3, GPT-4 등)을 직접 사용하여 텍스트 생성, 요약, 번역 등 다양한 자연어 처리 작업을 실험하고 테스트하는 플랫폼
  • 브라우저 기반의 사용자 인터페이스를 제공하여 손쉽게 접근하고 사용
  • 주로 연구자, 개발자들이 다양한 모델 설정 조정 (온도, 최대 토큰 수 등)특정 작업에 대한 모델 테스트 (예: 대화 생성, 문서 요약)

 


MS Azure : 클라우드 컴퓨팅과 기업 솔루션을 제공

    • MS에서 제공하는 클라우드 서비스
      • 컴퓨팅, 네트워킹 등 다양한 클라우드 서비스 제공 (아마존 AWS와 동일한 서비스 제공)
      • AI 및 머신러닝 서비스 제공 (OpenAI에서 제공하고 있는 GPT-4, GPT-4o 등 서비스 사용 가능)
      • 개인정보 보호 (Azure 서비스에서 저장하고 처리하는 데이터의 개인 정보 및 기밀성 보호)
    • AI 모델의 배포 및 관리, 대규모 데이터 처리, 클라우드 인프라 제공 등 더 넓은 범위의 서비스를 포함
    • 클라우드 기반의 IT 인프라와 서비스 제공, AI 및 머신 러닝 서비스의 통합 및 확장을 목표
    • Azure 포털을 통해 접근하고 관리
    • 주요 기능
      • Azure Cognitive Services: 텍스트 분석, 번역, 음성 인식, 감정 분석 등 AI 기능을 제공
      • Azure Machine Learning: 모델 학습, 배포, 관리, MLOps(모델 운영 및 관리) 지원
      • 클라우드 인프라: 가상 머신, 데이터베이스, 스토리지 등 클라우드 리소스를 제공
    • Microsoft는 OpenAI와 파트너십을 통해 OpenAI의 기술을 Azure 클라우드 플랫폼에서 사용할 수 있게 하고 있음
      • Azure OpenAI Service (OpenAI Playground 같은 거)
      • Azure Cognitive Services (AI 기능을 API 형태로 제공)
      • Azure Machine Learning
      • Power Virtual Agents
  • Azure에 모델 배포
    • Azure 포털 > 리소스 만들기 > Marketplace > Azure OpenAI : AI 모델 생성
    • Azure OpenAI Studio > 배포 > 새 배포 만들기 > 원하는 모델 배포
    • Azure OpenAI Studio > 채팅 플레이그라운드 > 배포한 모델 사용 가능

 


Microsoft Azure

  • Microsoft의 클라우드 컴퓨팅 플랫폼으로, 데이터 저장, 가상 머신, 데이터베이스, 네트워킹, AI 및 머신 러닝, IoT(사물인터넷) 등 다양한 클라우드 서비스를 제공

Microsoft Copilot

  • Microsoft의 다양한 제품(예: Microsoft 365, Visual Studio 등)에 통합된 AI 기능으로 사용자가 작업을 더 효율적으로 수행할 수 있도록 도움
  • Copilot은 OpenAI의 GPT 모델을 기반으로 하여 문서 작성, 코드 작성, 이메일 작성 등에서 자동화된 도움을 제공
    • 문서 작성 지원: Word, Excel 등에서 문서 작성과 편집을 돕는 기능 제공
    • 코드 작성 지원: Visual Studio Code와 같은 IDE에서 코드 완성, 오류 수정, 문서화 작업 지원

Microsoft Phi-3

  • Microsoft의 대규모 언어 모델(LLM)로, 자연어 처리(NLP)와 생성적 AI 작업을 위한 모델
  • 텍스트 생성, 질의응답, 문서 요약, 감정 분석 등 다양한 NLP 작업에서 성능 발휘
  • Microsoft의 연구와 개발에서 최신의 AI 기술을 적용하여 더 높은 정확성과 유용성을 가진 언어 모델을 제공하는 것을 목표
  • Microsoft의 클라우드 플랫폼인 Azure에서 활용되거나, Microsoft의 제품 및 서비스에 통합될 수 있음
    •  
728x90
반응형